Matthäus startet sin fotballkarriere i Borussia Mönchengladbach som midtbanespiller. Han debuterte i Bundesliga i 1979, og ble raskt fast på laget. Han debuterte på det vesttyske landslaget i 1980, og var med i den vesttyske EM-troppen som ble europamestere samme år. Han deltok også i VM 1982 og EM 1984.
Sommeren 1984 ble Matthäus kjøpt av Bayern München, hvor han ble vesttysk ligamester tre sesonger på rad.
I løpet av sine fire sesonger i Inter, ble Matthäus seriemester i 1989, og gikk til topps i UEFA-cupen i 1991. Sesongen 1990/91 scoret Matthäus 16 mål i Serie A fra sin midtbaneposisjon, og kom på andreplass på toppscorerlisten.
Matthäus returnerte til Bayern sommeren 1992. I sin andre periode i Bayern, ble Matthäus etterhvert omskolert til libero («fri» mann i midtforsvaret), og han var med på å vinne fire nye ligamesterskap, samt en ny seier i UEFA-cupen i 1996.
Landslagskarriere
Matthäus spilte sitt fjerde VM-sluttspill i 1994. Noen måneder etter turneringen, valgte Matthäus å trekke seg tilbake fra det tyske landslaget, men da hans arvtaker på landslaget Matthias Sammer ble skadet kort tid før 1998-VM, ble Matthäus overtalt til å gjøre comeback. H Matthäus er, sammen med den meksikanske keeperen Antonio Carbajal, de eneste spillerne som har deltatt i fem VM-sluttspill.