Beim NHL Entry Draft 1996 wurde Mitchell als 199. in der achten Runde von den New Jersey Devils ausgewählt. Der 1,91 m große Verteidiger spielte anschließend während seiner Collegezeit für das Team der Clarkson University in der ECAC Hockey, einer Liga im Spielbetrieb der NCAA. In seiner ersten NCAA-Saison wurde der Linksschütze hinter Erik Cole zum zweitbesten Rookie des Jahres. 1999 wurde er schließlich ins „ECAC First All-Star-Team“ und ins „Second All-Star-Team“ der gesamten NCAA gewählt.
Sein NHL-Debüt gab Mitchell in der Saison 1999/00, in zwei Jahren bei den New Jersey Devils wurde der Kanadier jedoch die meiste Zeit in der American Hockey League beim FarmteamAlbany River Rats eingesetzt. Im März 2001 wurde er schließlich im Tausch gegen den Verteidiger Sean O’Donnell zu den Minnesota Wild transferiert. Dort wurde Mitchell zum Stammspieler. Nach dem Lockout in der Saison 2004/05 wurde der Abwehrspieler aufgrund des im Team üblichen Rotationsprinzips im Dezember 2005 Mannschaftskapitän der Wild. Nachdem das Franchise die Play-offs verpasst hatte, wechselte der Kanadier im Tausch gegen Martin Škoula und Shawn Belle im März 2006 zu den Dallas Stars. Nach der Saison wurde er dennoch zum Free Agent, sodass die Vancouver Canucks Mitchell im Juli verpflichteten. Dort erhielt er einen Vierjahresvertrag, der ihm 14 Millionen US-Dollar einbringen soll. Nach der Spielzeit 2007/08 wurde der Kanadier zum besten Verteidiger des Teams gewählt. Im August 2010 unterzeichnete Mitchell als Free Agent einen auf zwei Jahre befristeten Vertrag bei den Los Angeles Kings.[1] In den folgenden Jahren gewann er mit den Kings zweimal den Stanley Cup (2012 und 2014), wobei er die Saison 2012/13 wegen einer Knieverletzung sowie des Lockouts nicht bestreiten konnte.
Sein zum Ende der Saison 2013/14 auslaufender Vertrag wurde nicht verlängert, sodass er im Juli 2014 einen Zweijahresvertrag bei den Florida Panthers unterzeichnete. Dort fungierte er in den beiden folgenden Spielzeiten als siebter Mannschaftskapitän, ehe er seine Karriere im Sommer 2016 im Alter von 39 Jahren für beendet erklärte.
(Legende zur Spielerstatistik: Sp oder GP = absolvierte Spiele; T oder G = erzielte Tore; V oder A = erzielte Assists; Pkt oder Pts = erzielte Scorerpunkte; SM oder PIM = erhaltene Strafminuten; +/− = Plus/Minus-Bilanz; PP = erzielte Überzahltore; SH = erzielte Unterzahltore; GW = erzielte Siegtore; 1Play-downs/Relegation; Kursiv: Statistik nicht vollständig)