Il dispute sa première saison complète dans les grandes ligues en 2003 avec 105 parties jouées, principalement comme joueur de troisième but. Il boucle la saison avec une moyenne au bâton de ,260 et 10 points produits.
En 2004, il élève sa moyenne à ,289 et produit 16 points en 102 rencontres. Il voit cette année-là davantage de temps de jeu au deuxième coussin.
Nationals de Washington
Carroll suit la franchise montréalaise jusqu'à Washington, où elle déménage pour sa première saison sous le nom de Nationals en 2005. Alternant entre le deuxième but et l'arrêt-court, il est en uniforme pour 113 parties. Il produit 22 points, un nouveau sommet en une saison, mais sa moyenne au bâton chute à ,251.
Rockies du Colorado
Le , les Rockies du Colorado achètent des Nationals le contrat de Carroll, qui dispute deux saisons avec sa nouvelle équipe.
Il termine la saison 2006 avec une moyenne au bâton de ,300. Avec des sommets en carrière de 5 circuits et 139 coups sûrs, il fait compter 36 points. Défensivement, il joue presque exclusivement au deuxième but. Sa moyenne de présence sur les buts, qui ne s'élevait qu'à une faible ,284 la saison précédente à Washington, passe à ,404 pour sa première année au Colorado.
Le 1er octobre2007, Carroll conclut en beauté la saison régulière des Rockies. Ces derniers, nez à nez avec les Padres de San Diego au terme des 162 matchs du calendrier, disputent un match-suicide à Denver pour déterminer qui décrochera la dernière place disponible en séries éliminatoires. En fin de 13emanche d'un long match, les Rockies marquent trois fois pour gagner la partie 9-8 et Carroll met fin au match par le ballon sacrifice qui produit le point décisif, Matt Holliday croisant le marbre pour propulser les Rockies en parties d'après-saison[5]. Ceci conclut une saison autrement décevante pour Carroll, qui n'avait frappé que pour ,225 de moyenne au bâton avec 22 points produits. En éliminatoires, il ne récolte qu'un but-sur-balles en trois passages au bâton dans la conquête du titre de la Ligue nationale par les Rockies, qui s'avouent vaincus par les Red Sox de Boston en Série mondiale 2007.
Lors de ces deux saisons à Cleveland, Carroll joue principalement au deuxième but en étant aligné à ce poste 130 fois contre 66 matchs joués au troisième but. Il fait également quelques apparitions dans le champ extérieur.
En 2008, il égale son meilleur total de points produits (36) en une année. Sa moyenne au bâton s'élève à ,277 la première saison et ,276 la suivante.
Dodgers de Los Angeles
En , il signe un contrat de deux saisons pour 3,85 millions de dollars avec les Dodgers de Los Angeles[7]. Il frappe avec plus de régularité en affichant des moyennes au bâton de ,291 et ,290 respectivement en 2010 et 2011.
Twins du Minnesota
Le , Carroll rejoint les Twins du Minnesota, qui lui offrent un contrat de deux saisons pour 6,75 millions de dollars[8].
Le , Carroll frappe contre les White Sox son premier coup de circuit depuis le , mettant fin à une série de 1348 présences au bâton consécutives sans circuit, la plus longue séquence du genre par un joueur actif des majeures[9].
Royals de Kansas City
Le , Minnesota transfère Carroll aux Royals de Kansas City[10]. Il termine la saison avec 44 coups sûrs, 21 points marqués, 9 points produits et une moyenne au bâton de ,211 en 59 matchs joués chez les Twins et 14 à Kansas City.
La campagne 2013 à Kansas City est sa dernière dans les majeures. Il passe par les Nationals de Washington à nouveau après avoir signé un contrat des ligues mineures avec eux le [11] mais ne trouve pas de place au sein du club.
Jamey Carroll a joué 1 276 matchs en 12 saisons dans le baseball majeur. Il compte 1 000 coups sûrs, dont 148 doubles, 27 triples et 13 circuits. Il a compté 560 points, en a produit 265 et réussi 74 vols de buts. Sa moyenne au bâton en carrière s'élève à ,272 et sa moyenne de présence sur les buts à ,349.
Après-carrière
En janvier 2015, Jamey Carroll est engagé comme assistant au département des opérations baseball des Pirates de Pittsburgh[12].