Philippe Mexes začal hrát fotbal ve svém rodném městě Toulouse. Vrcholový fotbal zažil v dresu AJ Auxerre, kam přestoupil v roce 1997. Svůj debut v 1. lize oslavil v 17 letech 10. 11. 1999 doma proti Troyes (1:0). První gól vstřelil 8. 12. 1999 proti Monaku. V Lize mistrů se poprvé objevil v sezoně 2002/03.
Řím
V srpnu 2004 byl v týmu AS Řím vybrán na post sportovního ředitele Franco Baldini. Ten se rozhodl prodat do Realu MadridWaltera Samuela a koupit místo něj nejtalentovanějšího obránce hrajícího v Evropě.
Ze strany Říma přišla nabídka na 4 roky a Philippe Mexes ji podepsal. AJ Auxerre se však obrátilo na orgány UEFA s tím, že Mexes má s klubem ještě podepsaný kontrakt, takže přestup byl pozastaven. Později byla blokace zrušena a Philippe Mexes odehrál debut v Serii A 12. 9. 2004 proti Fiorentině. Od února do dubna 2005 měl zákaz činnosti a nakonec klub z Říma musel zaplatit odstupné 7 000 000 eur.[2]
Po těžké první sezoně začal v té nové na lavičce. Římu byla zastavena činnost v oblasti nákupu a podepisování hráčů za pochybení ohledně přestupu Mexese, ale trvalo to jen několik týdnů. V sezoně stihl odehrát 27 zápasů, zahrál si finále Coppa Italia a díky korupci velkoklubů se posunul s týmem na 2. místo v tabulce a tím si zajistil Ligu mistrů. V Lize mistrů došel do čtvrtfinále, vytvořil v Serii A s Cristianem Chivu stabilní dvojici v obraně a na konci sezony slavil zisk Coppa Italia. V sezoně 2006/07 došel opět v Lize mistrů do čtvrtfinále a v lize bojoval o titul, což se nezdařilo. Útěchu měl alespoň v obhajobě Coppa Italia. Poslední zápas za AS Řím odehrál 3. 4. 2011 proti Juventusu. Ze hřiště byl odnesen na nosítkách, v nemocnici pak zjistili, že má poškozený vaz.
Milán
Dne 10.5. 2011 se Philippe po vypršení smlouvy rozhodl podepsat novou, nyní s týmem AC Milán[3]. První zápas odehrál teprve 26.10. 2011 proti Parmě (4:1).
19. května 2013 v posledním kole Serie A 2012/13 gólem z 87. minuty zajistil Milánu vítězství 2:1 proti domácí Sieně, AC si se 72 body pojistilo třetí místo a postup do předkola Ligy mistrů na úkor dotírající Fiorentiny.[4]
Poslední zápas odehrál s kapitánskou páskou proti AS Řím (1:3) 14. května2016[5].
Po sezoně 2015/16 mu nebyla prodloužena smlouva. Po neúspěšných jednání s ostatními kluby ukončil kariéru.
První zápas za A-tým odehrál 16. října 2002 proti Maltě. Podílel se na vítězství na Konfederačním poháru v roce 2003. Po MS 2010 se dostává do základní sestavy a trenér Laurent Blanc mu svěřuje kapitánskou pásku. První gól vstřelil 25. března 2011 proti Lucembursku.[7]
Mistrovství Evropy 2012
Na EURU 2012 konaném v Polsku a na Ukrajině postoupila Francie se 4 body ze druhého místa do čtvrtfinále. Mexès odehrál všechna tři utkání v základní skupině D postupně proti Anglii (1:1)[8], Ukrajině (výhra 2:0)[9] a Švédsku (prohra 0:2).[10] Ve čtvrtfinále 23. června Francie prohrála s největším favoritem turnaje Španělskem 0:2, Philippe do zápasu nenastoupil (byl v jednozápasovém trestu za dvě obdržené karty ve skupině).[11]