Il connaît une bonne saison 2014-2015 en LAH, avec un total de 45 points, dont 20 buts et 25 mentions d'aide, en 58 matchs et termine meilleur pointeur de l'équipe[3]. À l'issue de cette saison, il signe un contrat de deux ans dans la Ligue nationale de hockey avec les Penguins de Pittsburgh, qui sont affiliés à l'équipe de WBS[4].
C'est lors de la saison 2015-2016 qu'il fait ses débuts dans la LNH jouant son premier match avec Pittsburgh le . Il marque son premier but contre le gardien Tuukka Rask des Bruins de Boston ainsi que sa première mention d'assistance lors du même match du 18 décembre 2015. Sheary enregistre son premier match avec plusieurs buts le , marquant deux buts contre Henrik Lundqvist des Rangers de New-York. Il marquera par la suite son premier but de série éliminatoire contre le même gardien, le .
Lors des séries éliminatoires, il est placé sur la première ligne d'attaque et se retrouve à jouer aux côtés du joueur vedette Sidney Crosby. Il aide son équipe à atteindre la finale de la Coupe Stanley qui se joue contre les Sharks de San José et lors du deuxième match de la série, il marque le but gagnant en prolongation pour permettre à son équipe de remporter le match 2-1 et de mener la série 2 matchs à 0[5].
Au cours de la saison 2016-2017, Sheary continue de jouer au côté de Sidney Crosby toute l'année, marquant 23 buts et 30 mentions d'assistance. Les Penguins de Pittsburgh gagnent leur seconde coupe Stanley cette fin de saison.
Le , le club re-signe Sheary pour un contrat de 3 ans d'une valeur total de 9 millions de dollars[6].
Le , il est échangé aux Sabres de Buffalo en compagnie de Matt Hunwick contre un choix conditionnel de 4e tour au repêchage de 2019.
Lors d'une interview en novembre 2017, Sheary admets que les commentateurs sportifs, les fans et les joueurs déforment la prononciation de son nom de famille depuis le départ de sa carrière professionnelle, celui-ci se prononçant en anglais «SHARE-ee» et non «SHEER-ee»[7].