Mutombo fikk en sen start på sin NBA-karriere da han først kom inn i ligaen i en alder av 25 år. Han er nå en av de eldste spillerne som noen gang har spilt i ligaen, og blir regnet som en av NBAs beste defensive spillere gjennom tidene.
Mutombo har totalt spilt for totalt syv forskjellige klubber i NBA, men har spilt for klubben Houston Rockets siden 2004. Mutombo ble trukket opp til NBA av Denver Nuggets i første runde som nummer fire totalt i 1991. Han spilte lenge i klubben, helt til 2003. Den 15. juli 1994 signerte han en kontrakt med Atlanta Hawks, og ble 22. januar 2001 byttet til Philadelphia 76ers sammen med Roshown McLeod til bytte mot Theo Ratliff, Toni Kukoc, Nazr Mohammed og Pepe Sanchez. Allerede året etter, den 6. august 2002, ble han, til tross for den dyre prisen som måtte betales for han i Philadelphia, byttet til New Jersey Nets til bytte mot Keith Van Horn og Todd MacCulloch før han signerte enda en ny kontrakt med klubben New York Knicks den 9. oktober 2003. Året etter, den 5. august 2004, ble Mutombo byttet til Chicago Bulls i bytte mot Jamal Crawford og Jerome Williams før han ble byttet til Houston Rockets den 8. september 2004 til bytte mot Adrian Griffin, Eric Piatkowski og Mike Wilks. Mutombo signerte sin andre kontrakt med denne NBA-klubben den 1. oktober 2007. 23. april 2009 annonserte Mutombo sin tilbaketrekning fra NBA etter 18 års spill i ligaen.