Joos van Cleve nació probablemente en Cléveris hacia 1485. Descendiente de una conocida familia de pintores, en el primer cuarto del siglo XVI fue, junto a Quentin Massys, el pintor más importante de la Escuela renacentista de Amberes. En documentos procedentes de Amberes figura como Joos van der Beke, apodado Van Cleve, anteriormente a esta documentación como Maestro de la Muerte de la Virgen. Dado que el apellido Cleef es común a varios pintores de Amberes, se supone que pertenecía a una familia de artistas.

De su vida hay muy pocos datos, hay muchas posibilidades de que naciera en Cleveris (En alemán Cleve, Kleef en holandés), hoy ciudad alemana, en aquella época holandesa.

Tuvo como maestro al pintor Jan Joest, con el que colaboró en la realización de las alas del retablo de la iglesia de San Nikolai, de Kalkar, en 1508 y que en ella se conserva.

Pintó fundamentalmente temas religiosos y retratos, obras en las que supo combinar con maestría la fluidez de su técnica con rico y sensible colorido, obras que influyeron de forma importante en la pintura del siglo XVI.

Estaba registrado como maestro del gremio de pintores en 1511 en Amberes. Documentos de esta asociación confirman que entre 1516 y 1523 tenía aprendices a su cargo, y que fue codecano en 1519, y decano en 1520 junto a Jan Wellens de Cock y volvería serlo en 1525.

El hecho de que Van Cleve colaborara en varias ocasiones con Joachim Patinir, nos hace creer que debió integrarse rápidamente en el círculo de pintores de Amberes.

Su obra temprana más importante es «La muerte de la Virgen», actualmente en el Wallraf-Richartz-Museum de Colonia, datada en 1515 y con su marco original, obra que jugó un papel clave en la reconstrucción de su corpus.

Sus primeras pinturas denotan la influencia de su maestro, Jan Joest, de Hans Memling y de Gerard David, por lo que es posible que hubiera pasado una época de formación en Brujas, antes de 1511, donde habría conocido la obra de estos dos últimos pintores y que posteriormente se instaló definitivamente en Amberes.

Con el Retablo de La lamentación, que se puede visitar en la Städelsches Kunstinstitut und Städtische Galerie, de Frankfurt, documentada en 1524, inició una nueva etapa en su carrera, en la que se hace evidente su interés por la pintura italiana. En la tabla «Resurrección de Lázaro» hay un personaje en el que posiblemente se autorretrató.

Entre 1528 y 1535, no aparece en ningún registro de la ciudad de Amberes, según los historiadores de arte se debió a que fue llamado por el rey Francisco I de Francia para trabajar en su corte, en la que pintó varios retratos de Francisco I, de su esposa Leonor de Portugal y de otros miembros de la aristocracia gala.

En sus últimas obras se observan numerosos detalles con la pintura renacentista italiana, aunque no existe ninguna referencia que visitara Italia. Sobre 1536 pintó un retrato del rey Enrique VIII de Inglaterra. Murió en Amberes en 1540.