Graham fu scelto dai Chicago Bears nel corso del quinto giro del draft 2007. Il suo primo intercetto lo mise a segno il 19 ottobre 2008 ai danni del quarterback dei Minnesota Vikings Gus Frerotte. Quella stagione terminò con 91 tackle.
Graham fu convocato per il suo primo Pro Bowl nel 2011 dopo una stagione in cui mise a segno 16 tackle, tre intercetti, 3 passaggi deviati e un fumble forzato.
Baltimore Ravens
Graham firmò coi Baltimore Ravens il 23 marzo 2012. Il 18 novembre contro i Pittsburgh Steelers[1] mise a segno il suo quinto intercetto in carriera, mentre un altro venne sempre contro gli Steelers due settimane dopo[2].
Dopo aver battuto gli Indianapolis Colts nel primo turno di playoff[3], Graham fu determinante nella vittoria dei Ravens nel turno successivo contro i Denver Broncos. Con Baltimore pesantemente sfavorita all'inizio del match, Corey intercettò due passaggi di Peyton Manning: il primo lo ritornò per 39 yard in touchdown mentre il secondo fu ugualmente decisivo poiché avvenne nel secondo tempo supplementare e permise ai Ravens di trovarsi in posizione adeguata per calciare il field goal della vittoria[4]. Nella finale della AFC della settimana successiva, Baltimore batté anche i New England Patriots in trasferta, qualificandosi per il secondo Super Bowl della storia della franchigia[5]. Il 3 febbraio 2013, Graham partì come titolare nel Super Bowl XLVII contribuendo con sei tackle alla vittoria dei Ravens sui San Francisco 49ers per 34-31, laureandosi per la prima volta campione NFL[6][7].
Nella settimana 12 della stagione 2013, Graham mise a segno due intercetti su Geno Smith dei New York Jets, contribuendo alla vittoria dei Ravens e a tenere vive le speranze di centrare i playoff[8].
Buffalo Bills
Il 12 marzo 2014, Graham firmò un contratto quadriennale dal valore di 16 milioni di dollari con i Buffalo Bills[9].