Takemi, der Sohn des Mediziners Tarō Takemi sowie über die Mutter Enkel des HerrenhausabgeordnetenTanehide Akizuki, Urenkel der Herrenhausabgeordneten Tanetatsu Akizuki und Nobuaki Makino und Ururenkel von Meiji-Oligarch Toshimichi Ōkubo, studierte an der rechtswissenschaftlichen Fakultät der Keiō-Universität. Er wurde Dozent, ab 1995 Professor für internationale Politik an der Tōkai-Universität. Später, nach seiner Abwahl, war er Gastforscher in Harvard und Gastprofessor an der Universität Nagasaki sowie kurz vor seiner Rückkehr ins Parlament der Minobusan-Universität. Außerdem war er seit den 1980er Jahren im Fernsehen aktiv: Für TV Asahi moderierte er von 1987 bis 1988 die Morning Show (モーニングショー), außerdem komoderierte er in den in Zusammenarbeit mit dem amerikanischen CNN produzierten Sendungen CNN Daywatch (CNNデイウォッチ, ab 1984) und CNN Daybreak (CNNデイブレイク, 1990er).
In die aktive Politik wechselte Takemi 1995, als er bei der 17. Rätehauswahl auf Platz 1 der LDP-Liste im Verhältniswahlwahlkreis kandidierte und damit sicher gewählt war. Bei der Wahl 2001, der ersten nach der Einführung der Vorzugsstimme bei der Verhältniswahl, erhielt er landesweit 227.042 Stimmen und erreichte damit Platz 8 auf der Liste (bei 20 Sitzen für die LDP). Bei der Wahl 2007, als die LDP nur noch 14 Verhältniswahlsitze gewann, erhielt Takemi nur noch 186.616 Stimmen und war damit auf Platz 15 der Liste zunächst abgewählt. Als Hiroyuki Yoshiie 2012 wegen seiner Kandidatur zum Abgeordnetenhaus sein Rätehausmandat automatisch verlor, kehrte Takemi als Nachrücker ins Parlament zurück. Bei der Wahl 2013 wechselte er in den Mehrheitswahlwahlkreis Tokio (Fünf-, ab 2016 Sechsmandatswahlkreis), wo er als einer von zwei LDP-Kandidaten neben Tamayo Marukawa 2013 mit rund 11 % der Stimmen auf Platz 5, 2019 mit rund 9 % der Stimmen auf Platz 6 jeweils den letzten Sitz gewann.
Im Rätehaus saß Takemi von 2001 bis 2002 dem Außen- & Verteidigungsausschuss vor. Für das erste Kabinett Abe war er von 2006 bis 2007 Staatssekretär („Vizeminister“) im Sozial- & Arbeitsministerium. 2023 berief ihn Fumio Kishida bei einer Regierungsumbildung als zuständigen Minister erstmals in ein Kabinett.