McCallum kandiderade 1982 till USA:s senat men förlorade mot sittande senatorn William Proxmire. I 1986 års guvernörsval nominerade republikanerna i Wisconsin Tommy Thompson till guvernör och McCallum till viceguvernör. Republikanerna vann valet och McCallum efterträdde demokraten James Flynn som viceguvernör i januari1987. Efter 14 år som viceguvernör efterträdde McCallum Thompson som guvernör i januari 2001. Thompson avgick från guvernörsämbetet för att tillträda som USA:s hälsominister.
McCallum var republikanernas kandidat i guvernörsvalet 2002 som han förlorade mot demokraten Jim Doyle.