Fils de l'ancien All BlacksFrank Oliver, Anton Oliver fait ses débuts par le rugby universitaire en représentant l'équipe de Marlborough Boy's College en 1993 avant de rejoindre l'université d'Otago à Dunedin en 1994. C'est à cette époque qu'il rejoint le club Otago Rugby Football Union qui dispute le championnat des provinces, le NPC. Il jouera de 1994 à 2007 pour la province d'Otago remportant le NPC en 1998. À partir de 1996, il est sélectionné pour représenter la franchise des Highlanders dans le Super 12 avec qui il jouera 127 matchs de 1996 à 2007.
Après avoir été de la plupart des sélections néo-zélandaises de jeunes, Anton Oliver honore sa première cape internationale en équipe de Nouvelle-Zélande le contre l'équipe des Fidji. À partir de 1998, il devient titulaire en lieu et place de Norman Hewitt et participe à la Coupe du monde 1999. Après avoir été capitaine de l'équipe de Nouvelle-Zélande des moins de 19 ans (1993-1994), de l'équipe de Nouvelle-Zélande des moins de 21 ans (1994 à 1996), Anton est nommé dix fois capitaine des All Blacks en 2001. Son père Frank Oliver avait aussi été capitaine des All Blacks en 1978.
En 2003, il est écarté des All Blacks par John Mitchell et ne dispute pas la Coupe du monde 2003. Il fait son retour en sélection fin 2004. À la suite de la Coupe du monde 2007, il signe un contrat avec le RC Toulon, ce qui sonne le glas de sa carrière internationale (les All Blacks étant en contrat avec la Fédération néo-zélandaise, sont obligés de jouer pour une province néo-zélandaise). Avec les All Blacks, Oliver a remporté les Tri nations 1999, 2006 et 2007. Il a compté trois victoires contre l'équipe de France en 2003, 2004 et 2006.
Il a annoncé le qu'il mettrait un terme à sa carrière à la fin de la saison pour entrer à l'université d'Oxford où il étudiera l'écologie. Il y décrochera un master en biodiversité, environnement et management.