Adhérent en 1996 au Parti républicain (PR), il est membre du bureau du Territoire de Belfort. Le parti devenu Démocratie libérale en juin 1997, il prend la présidence départementale. Il est le leader de l’opposition municipale à Valdoie, commune proche de Belfort, dès mars 2001.
Candidat en 1998 aux cantonales, il est battu. À l’automne 2000, la suppléante de Jean-Pierre Chevènement démissionne pour lui permettre de retrouver l’Assemblée. Michel Zumkeller est le candidat de droite à la législative partielle et est battu (16,82 % et 34,02 % aux deux tours).
Il est élu député le , pour la XIIe législature (2002-2007) de la 2e circonscription du Territoire de Belfort (2e). En tête au premier tour (25,6 % contre 21,6 %), il bat de 1864 voix (53,4 %) Jean-Pierre Chevènement. Il est membre du groupe UMP et de la commission des affaires culturelles, familiales et sociales de l'Assemblée nationale. Il préside du groupe d’amitié France-Danemark, est vice-président du groupe d’études pour les personnes âgées, membre du groupe d’étude sur la chasse, du groupe d’étude sur les contrefaçons et de la mission d’information sur l’amiante.
Il est sur la liste UMP de Jean-François Humbert aux régionales battue au second tour par celle (PS) de Raymond Forni. En mars 2004, candidat aux cantonales de Valdoie, il est battu (46,44 % des voix) par Yves Ackermann, maire PS, qui devient président du conseil général.
Le , il annonce sa participation au bureau national de l'Union des démocrates et indépendants en tant que secrétaire national au commerce, aux PME et à l’artisanat. Il quitte alors le groupe parlementaire de l'UMP pour rejoindre celui de l'UDI, qu'il avait refusé de rejoindre en juin, craignant « un petit combat des chefs à 15 »[2].
Lors des élections municipales de 2014 pour la mairie de Valdoie, Michel Zumkeller (UDI) est réélu pour un nouveau mandat en battant dès le premier tour son rival socialiste Olivier Domon (PS) avec 65,54 % des suffrages avec sa liste Valdoie Pour Vous.
Il est nommé en , secrétaire général de l'UDI, poste qu'il partage avec la moriniste modérée Brigitte Fourré.
Il est l'auteur en 2020 de la proposition de loi sur le Covid long. Ce texte est voté par l'assemblée nationale le 26 novembre 2021, puis voté dans les mêmes termes par le sénat le 13 janvier 2022.
En juin 2022, il est éliminé dès le premier tour aux élections législatives.