La saison suivante, il joue dans la Ligue de hockey de l'Ontario pour les Petes de Peterborough avec qui il reste deux saisons durant lesquelles il inscrit 75 buts et 115 aides en 124 matchs. Lors de la seconde saison, il fait également ses débuts sur une patinoire de la LNH en jouant deux matchs avec la franchise de Dallas.
Le , Langenbrunner et Joe Nieuwendyk prennent la direction des Devils du New Jersey en échange de Jason Arnott, Randy McKay et d'un choix de repêchage. En 2002-2003, il réalise sa meilleure saison avec 22 buts et 33 aides puis de très bonnes séries (meilleur buteur - 11 buts - et pointeur - 18 points - de l'équipe) qui se solde par une nouvelle Coupe Stanley. Le , il signe une prolongation de contrat avec les Devils, pour cinq ans et 2,8 millions de dollars par an. Il est aussi nommé à la fin de capitaine des Devils[1]. En , il retourne jouer à Dallas contre un choix de repêchage.