Z pochodzenia był Francuzem, synem sędziego[1]. Studiował prawo w Paryżu; był żonaty i miał dwie córki[1]. Po śmierci żony, przyjął święcenia kapłańskie[2]. Początkowo był doradcą Ludwika IX, w 1259 r. został arcybiskupem Narbonne, a w grudniu 1261 kardynałem-biskupem Sabiny[1]. Był pierwszym kardynałem nominowanym przez papieża Urbana IV, a 5 lutego 1265 został wybrany na papieża.
Klemens IV był znany ze skromnego trybu życia, podobno przez długi czas pościł. Poprosił Karola Andegaweńskiego, by ten pomógł mu w walce z Hohenstaufami, zwłaszcza z Manfredem[1]. 28 czerwca 1265 roku pięciu kardynałów, z upoważnienia Klemensa, koronowało Karola I, na króla Sycylii[1]. Podjęta wkrótce krucjata, przeciw Manfredowi, zakończyła się bitwą pod Benewentem (26 lutego 1266), kiedy to wojska niemieckie zostały rozgromione, a sam Manfred zginął[1]. Wkrótce potem, ostatni z dynastii Hohenstaufów, Konradyn, zagroził Rzymowi, więc papież obłożył go ekskomuniką i pozbawił tronu jerozolimskiego[1]. Niebawem, Karol I pokonał Konradyna w bitwie pod Tagliacozzo (23 lipca 1268), a niemieckiego władcę nakazał ściąć[1].
26 marca 1267 roku kanonizował Jadwigę Śląską, żonę Henryka Brodatego[2]. Wydał bullę Licet ecclesiarum, która zastrzegała papieżowi prawo do wszystkich wakujących w kurii beneficjów[3]. Korespondował także z Michałem VIII Paleologiem, jednak nie doszło do takiego ocieplenia relacji między Kościołami, jak za czasów Urbana IV[1].
Klemens IV zmarł 29 listopada 1268 w Viterbo[2]. Po jego śmierci nastąpiła trzyletnia sediswakancja[2].