W 1960 wstąpił do bawarskiej Unii Chrześcijańsko-Społecznej. W latach 1973–1991 był radnym miejskim w Würzburgu. W latach 1974–1976 zasiadał w landtagu Bawarii. W 1976 po raz pierwszy wybrany na posła do Bundestagu. Reelekcję uzyskiwał w wyborach w 1980, 1983, 1987, 1990, 1994, 1998 i 2002, wchodząc w skład niższej izby niemieckiego parlamentu do 2005. Był m.in. sekretarzem frakcji CDU/CSU, a w latach 1989–1993 przewodniczącym podgrupy CSU w klubie poselskim chadeków.
Od 21 stycznia 1993 do 31 grudnia 1997, to jest do czasu likwidacji resortu, sprawował urząd ministra poczty i telekomunikacji w czwartym i piątym rządzie Helmuta Kohla. W latach 2004–2008 stał na czele Bundesvereinigung Deutscher Musikverbände – konfederacji niemieckich stowarzyszeń muzycznych.