Il remporte la Coupe Stanley en 1994 avec les Rangers de New York puis en 1999 avec les Stars de Dallas. Ces derniers retirent son numéro de maillot en 2022 en l'honneur de ses douze saisons avec eux.
Zoubov a commencé sa carrière professionnelle de joueur de hockey dans le club de l'Armée rouge, le HK CSKA Moscou dès l'âge de 19 ans en 1989. Il continue de jouer pour le club même après la chute de l'URSS.
La saison d'après, il joue principalement avec les Rangers et totalise 77 passes décisives en saison régulière et fait partie de l'équipe qui gagne la finale de la Coupe Stanley. Il marque 19 points (dont 5 buts) durant les séries éliminatoires.
Même si dans sa nouvelle franchise Zoubov n'atteint plus son niveau de jeu du temps des Rangers, le système de jeu de Dallas lui convient totalement et il est sélectionné pour les Matchs des étoiles à trois reprises entre son arrivée à Dallas et le lock-out de 2004-2005. De plus, il est le seul défenseur de la ligue a réaliser 10 saisons consécutives avec plus de 40 points par saison.
Faisant suite à la mise en place des nouvelles règles dans la ligue, son jeu prend une nouvelle dimension lui permettant d'inscrire au cours de la saison 2005-2006 de la LNH 71 points.
Il met un terme à sa carrière en 2011 après une saison blanche pour cause de blessures.
Il est honoré par les Stars de Dallas lors d'une cérémonie le 29 janvier 2022 au cours de laquelle son numéro de maillot est retiré en remerciement de ses douze saisons en tant que défenseur. Au cours de son passage dans l'équipe, il a établi le record de matchs joués (839), de buts (111), d'aides (438) et de points (549) par un défenseur, pour l'ensemble des saisons Stars et North Stars confondus [1].
Carrière internationale
Il représente l'URSS pour le championnat d'Europe junior (élu meilleur défenseur du tournoi) et pour les championnats du monde junior en 1989 (médaille d'or) et 1990 (médaille d'argent)[2].