Materazzi tilbrakte sine første sesonger i lavere divisjoner i italiensk fotball. Etter noen sesonger i Perugia Calcio, (hvor han debuterte mot Inter 2. februar 1997), tilbrakte han en sesong i Everton FC, der han ble utvist tre ganger i løpet av 27 kamper. Han dro deretter tilbake til Perugia, som i mellomtiden hadde rykket opp til Serie A, og scoret hele 12 mål for klubben i sesongen 2000/01, italiensk rekord for en forsvarer. Etter denne sesongen skrev han under for Inter.
Han spilte en avgjørende rolle da Italia vant VM 2006 i Tyskland. Han scoret blant annet et viktig mål i den siste og avgjørende gruppespillkampen mot Tsjekkia.
I finalen mot Frankrike scoret han Italias utligningsmål på en heading etter corner. I annen ekstraomgang, et par minutter før dommeren blåste av for full tid, ble han skallet i brystet av Zinedine Zidane slik at han falt. Zidane fikk rødt kort for hendelsen. Før skallingen skal Materazzi ha sagt nedlatende ting om Zidanes søster. Dette er blitt bekreftet av begge under intervjuer, Materazzi fortalte i august 2007 i TV-programmet «Sorrisi e Canzoni» at han sa følgende:«Den horen jeg foretrekker er din søster»[4], like før Zidane reagerte med å skalle han ned. I den påfølgende straffesparkkonkurransen scoret Materazzi sikkert på sitt straffespark (Italia vant straffesparkkonkurransen 5-3).
Materazzi fikk to kampers karantene og 5000 sveitsiske franc i bot for å ha provosert Zidane.
