Rejoignant les Rangers de New York pour la fin de la saison 1983-1984, il décroche un poste permanent avec le club et reste au sein de l'organisation pour les dix saisons suivantes, étant appelé à représenter à nouveau le Canada pour les championnats mondiaux de 1987 et de 1989 en plus de prendre part à la Coupe Canada de 1987.
Il reste avec Buffalo pour six saisons, atteignant la finale de la Coupe Stanley en 1999 et représentant une dernière fois le Canada au niveau international lors du championnat du monde de 2002.
Forcé à l'inactivité en raison d'un lock-out qui paralyse la LNH durant la saison 2004-2005, James Patrick annonce à l'aube de la saison suivante son retrait de la compétition. Il se ravise cependant alors qu'il accepte un contrat d'une saison avec les Frankfurt Lions de la DEL en Allemagne.
Au terme de cette saison, il se retire en tant que joueur et accepte un poste d'entraîneur adjoint à Lindy Ruff pour les Sabres de Buffalo[1]. Après la saison 2012-2013 où il a été démis de son poste, il rejoint les Stars de Dallas, toujours comme entraîneur adjoint, et retrouve Lindy Ruff qui venait d'être nommé entraîner-chef de cette équipe. Il reste derrière le banc des Stars jusqu'en 2017[2]. Durant cette même année, il est nommé entraîneur-chef du Ice de Kootenay, équipe junior dans la Ligue de hockey de l'Ouest[3].