Orr commence sa carrière de football à Newcastle. Il est prêté durant l'année 2004 à Burnley.
Il n'arrive pas à s'y imposer et il décide de rejoindre Bristol City dans la même année. Très rapidement, il devient un des joueurs majeurs du club et il passe du poste de milieu de terrain défensif à celui de défenseur pendant la saison 2005-2006. Le 27 novembre, Bristol City décide de placer Orr sur la liste des transferts, car ce dernier refuse de prolonger son contrat[1]. Cependant le 1er janvier, Bristol annonce que le joueur et le club ont trouvé un accord pour prolonger le contrat de Orr de deux ans et demi.
.svg){kind=small}
