Il est intégré à l'effectif des 40 joueurs des Indians de Cleveland en cours de saison 2007 sans faire son entrée en jeu. Idem la saison suivante où il évolue au mieux en AA avec Akron.
En 2010, sa moyenne grimpe à 4,14 en 63 manches lancées et 70 présences en relève.
En 2011, Sipp apparaît dans 69 matchs des Indians et conserve une moyenne de 3,30 points mérités accordés par partie en 62 manches et un tiers au monticule. Il remporte 6 victoires contre 3 défaites.
La moyenne de points mérités de Sipp grimpe à 4,42 en 55 manches lancées 2012. Il obtient une victoire et un sauvetage et subit deux défaites en 63 rencontres.
À sa deuxième année à Houston, il connaît en 2015 la meilleure saison de sa carrière avec une moyenne de points mérités d'à peine 1,99 en 54 manches et un tiers lancées lors de 60 apparitions au monticule. Il fait aussi ses débuts en éliminatoires, n'allouant qu'un point non mérité en 5 manches et un tiers de travail, mais encaissant néanmoins une défaite lors du 4e match de la Série de divisions[7], un revers qui fait tourner le vent en faveur des éventuels vainqueurs, les Royals de Kansas City.
Le , Tony Sipp signe avec les Astros un nouveau contrat de 18 millions de dollars pour 3 ans[8].
