En 1493 Jean Carondelet fut nommé doyen de l’université de Besançon et était en 1503 conseiller ecclésiastique au conseil souverain de Malines.
Charles Quint le nomma conseiller privé. Il accompagna le jeune souverain de 1517 à 1519 en Espagne et présida le conseil de Bruxelles en 1527.
Ami d'Érasme comme le prouve sa correspondance, il acheva, à ses frais, la fondation du collège Saint-Donat de Louvain. Il se fit portraiturer dans les années 1510 par Quentin Massys en chanoine, coiffé d’un bonnet carré et tenant un livre à la main, conservé au sein des collections des princes du Liechtenstein et vers 1517 par Jean Gossaert dans un diptyque conservé au musée du Louvre le représentant avec la vierge, en tant qu’"Haut doyen de Besançon", le revers représente ses armes et un crâne. Il se serait aussi fait représenter par Hans Holbein.
Il devient plus tard archevêque de Palerme, où il ne résida jamais. Il succéda à son frère Ferry en tant qu’abbé commendataire de Montbenoît dans le Doubs. Il démissionna de ses fonctions en 1540 et mourut le dans la maison familiale de Malines. Il fut enterré dans un tombeau de marbre en la cathédrale Saint-Donatien de Bruges où il est représenté avec ses ornements pontificaux.
On lui connaît une fille, nommée Marguerite Carondelet, qu'il eut d'une certaine Catherine, et qui fut légitimée en juillet 1517[1].
H. de Montégut, Les portraits de Jean Carondelet, chancelier perpétuel de Flandre, conseiller intime de l'empereur Charles-Quint, haut-doyen de Besançon, archevêque de Palerme et primat de Sicile (1469-1544), p. 283-287, Réunion des sociétés savantes des départements à la Sorbonne. Section des beaux-arts, Ministère de l'instruction, 1911 publique (lire en ligne)
Léon de la Brière, « Dépêches de Ferry Carondelet, Procureur en Cour de Rome (1510-1513) », Bulletin Historique et Philologique du Comité de Travaux Historiques et Scientifiques, , p. 98-134 (lire en ligne)