Boumsong aloitti uransa Le Havressa, josta hän siirtyi Auxerreen 20-vuotiaana. Boumsong murtautui nopeasti Ranskan liigan valiopuolustajien joukkoon, ja lopulta kesällä 2004 hän siirtyi Skotlannin ValioliigaanRangersiin. Boumsong ehti pelata Skotlannissa kuitenkin vain puoli vuotta, kun hänet jo kaupattiin 8 miljoonan punnan siirtosummalla Newcastleen.
Newcastlessa miehen otteet eivät vakuuttaneet, ja miestä pidettiin jopa yhtenä Valioliigan huonoimmista puolustajista. Boumsong on kuitenkin Ranskan maajoukkueen päävalmentajan Raymond Domenechin suosiossa, ja siten hän sai myös kutsun vuoden 2006 MM-kisoihin.
Syksyllä 2006 Boumsong siirtyi italialaiseenJuventukseen, joka aloitti historiansa ensimmäisen kauden Serie B:ssä. Serie B:n kaksi ensimmäistä ottelua menivät Boumsongilta penkin alle, mutta jo kolmannessa hän teki 3–0-voittomaalin Crotonea vastaan, ja puolustaja sai hyvin peliaikaa myös jatkossa.
28. tammikuuta2008 Boumsong palasi Ranskaan kun Juventus oli hyväksynyt Olympique Lyonnaisin 3 miljoonan euron siirtokorvauksen Boumsongista. Boumsong teki Lyonin kanssa kolmen ja puolen vuoden mittaisen sopimuksen.[1] Boumsong edusti Lyonia kahden ja puolen vuoden ajan pelaten seurassa 51 liigaottelua. Kesällä 2010 hän siirtyi KreikkaanPanathinaikosin riveihin 750 000 euron siirtosummalla. [2]