Kaifu studeerde aan de Chuo-universiteit en de Waseda-universiteit. Als lid van de Liberaal-Democratische Partij zat hij sinds 1960 in de Kokkai en bleef daar dertien termijnen. Hij was minister van Onderwijs voordat hij de partij ging leiden na het vertrek van Noboru Takeshita en Sōsuke Uno. Kaifu werd in augustus 1989 premier van Japan maar zijn fractie was te klein om de veranderingen door te voeren die hij wilde. Meerdere terugslagen door het schandaal van Sagawa zorgden voor problemen. Hij nam ontslag in november 1991 en werd vervangen door Kiichi Miyazawa.
In 1994 verliet hij de Liberaal-Democratische Partij om de nieuwe partij Shinshinto te gaan leiden. Kaifu overleed ten gevolge van een longontsteking op 9 januari 2022 in een ziekenhuis in Tokio. Hij werd 91 jaar oud.[1][2])