Cole on West Ham Unitedi kasvandik. Juba väga noorelt pälvis tähelepanu, kui lõi Inglismaa noortekoondises Hispaania vastu 7 väravat inglaste 8-st. Ta mängis sarnases stiilis nagu tollane inglaste täht Paul Gascoigne ja talle ennustati suurt kuulsust.
Cole debüteeris West Hami esinduskoosseisus 17-aastaselt. 21-aastaselt sai ta klubi kapteniks; samal aastal kukkus West Ham Premier League'ist välja.
2003. aastal siirdus Cole 6,6 miljoni naelsterlingi eest Chelseasse. Esialgu, Claudio Ranieri käe all, oli Cole'il raskusi põhikoondisse pääsemisega. Kui Chelsea peatreeneriks sai José Mourinhost, sai Cole koha põhirivistuses. Hooajal 2004–2005 lõi ta 10 väravat, tuli Inglismaa meistriks ja võitis liiga karika.
Chelseas mängis ta kuni 2010. aasta juunini. 2010. aasta kolis Cole Liverpooli. Järgmisel suvel anti poolkaitsja laenuks PrantsusmaaLigue 1 klubile Lille OSC.
Cole on tulnud Inglismaa meistriks 2005., 2006. ja 2010. aastal ning meistrivõistlustel teisele kohale 2004., 2007. ja 2008. aastal. Inglismaa karikavõistlused jalgpallis võitis ta Chelsea meeskonnaga 2007 ja 2008. Liiga karikafinaali võitis ta 2005 ja 2010 ning karikasarjas teiseks tuli ta 2008.