ヘッセン州フランクフルト・アム・マイン生まれ。父カール=ハインツ・コッホは CDU の政治家だった。1977年にアビトゥーア合格。兵役ののちフランクフルト大学で法学を専攻。在学中に CDU に入党。在学中の1979年にマイン・タウヌス郡議会議員に初当選。1982年に司法修習試験に合格し大学を卒業。1983年から87年まで、CDUの下部青年団組織「ユンゲ・ウニオン (Junge Union)」の連邦副代表を務める。党幹部に対しても遠慮のない発言をして注目を集める。1985年に国家司法試験合格。同年弁護士免許を取得。エッシュボルンで弁護士事務所を開業。
1989年‐97年、郡議会で CDU の議会院内総務。1987年にヘッセン州議会議員に初当選。1993年までエッシュボルン市参事会員を兼任。1991年、州議会の党院内副総務、1993年から党院内総務。1998年、CDU の州代表に就任。連邦政府で CDU が野党に転落して逆風が吹いていた最中の翌1999年2月、CDU の州首相候補として州議会選挙を戦う。この選挙期間中、ドイツ社会民主党 (SPD) と同盟90/緑の党連立の連邦政府が進めている国籍法改正に反対する署名運動を展開、外国人敵視を煽るものだと批判された。しかし州議会選挙は CDU の勝利に終わり、コッホは現職の州首相ハンス・アイヒェルを引きずり下ろして州政を8年ぶりに SPD から奪還、4月7日にヘッセン州首相に就任した。
州首相
州首相就任早々、連邦 CDU のみならずヘッセン州の CDU にも不正献金疑惑が持ち上がる。コッホは関与を否定しつつも解明を約束したが、疑惑は消えなかった。野党に辞任を要求されたが、盟友のフランツ・ヨーゼフ・ユングが身代りに州大臣を辞任する格好で切り抜けた。野党はまた1999年の州議会選挙でのコッホの資金に不明朗を指摘して選挙の無効を訴えたが、選挙管理委員会に却下された。コッホは CDU の嫡流として連邦首相の座も狙える位置にいたが、これらの疑惑によってその威信は後退した。2002年の連邦議会選挙では、CDU 党首アンゲラ・メルケルの実力がなおも疑問視されていたため、連邦首相候補選出が難航してコッホの名が取りざたされることもあったが、結局経験豊富なバイエルン州首相のエドムント・シュトイバーが連邦首相候補に立てられた(この選挙で CDU は惜敗)。
コッホは3選を目指してヘッセン州議会選挙に臨んだが、折りしも発生した外国人少年による傷害事件を利用し、外国人犯罪対策の強化を訴えた。事前に不利が予想されていたコッホのこうした選挙戦は、「外国人敵視を煽るポピュリズム」と CDU 党内からさえも批判された。2008年1月に行われた投票では、CDU は SPD に得票率で僅か0.1%差まで迫られた上、これまで議席の無かった左翼党が躍進するという結果に終わり、FDP との連立のみでは議会過半数を得ることが不可能になった。SPD 側の連立政権樹立構想が不調に終わったため、4月からコッホは暫定的に首相に留任することになった。2009年1月に行われた州議会のやり直し選挙では、CDU が微増、連立相手のFDPが大幅に議席を増やしたのに対して、党内の混乱をさらけ出した SPD が大幅に議席を減らし、コッホの3選が正式に決まった。