Alex Gray naît le à Glasgow en Écosse mais grandit à Port Arthur en Ontario au Canada, ville qui deviendra par la suite Thunder Bay. Il fait ses débuts avec les Bruins de la ville en 1920-1921 dans le championnat junior ; après une saison avec les Rangers d'Eveleth, il joue dans le championnat senior avec les Ports de Port Arthur[3].
Il joue pendant cinq saisons avec les Ports, terminant meilleur buteur et pointeur de la saison 1923-1924 avec vingt buts et vingt-cinq points[1]. Gray termine également meilleur buteur et pointeur de la ligue en 1924-1925[1] et remporte avec les Ports la Coupe Allan en jouant aux côtés de Lorne Chabot en 1925 et 1926[4].
Le , il signe un contrat professionnel avec les Rangers de New York de la Ligue nationale de hockey mais joue une dernière saison avec les Ports Chabot et termine une nouvelle fois meilleur buteur et pointeur[1]. Il fait ses débuts dans la LNH lors de la saison 1927-128 avec les Rangers de New York. Ils terminent la saison régulière à la deuxième place de la division Américaine, quatre points derrière les Bruins de Boston[5]. Les premières équipes de chaque division sont directement qualifiées pour les demi-finales alors que les Rangers jouent un tour préliminaire contre les troisièmes de leur division, les Pirates de Pittsburgh. Les Rangers de New York battent tout d'abord les Pirates puis font également chuter les Bruins pour atteindre la finale de la Coupe Stanley contre les Maroons de Montréal[6]. Les Rangers remportent leur première Coupe Stanley en battant les joueurs de Montréal trois matchs à deux[6].
