Il mène les Capitals à la finale de la Coupe Stanley en 1998 ; il devient cette saison-là seulement le 4e gardien de l'histoire à enregistrer 4 jeux blancs au cours des mêmes séries d'après-saison. Les Capitals sont cependant battus en 4 matches par les Red Wings de Détroit.
Il remporte le trophée Vézina en 2000 avec une fiche de 41 victoires, 20 défaites et 11 matchs nuls, une moyenne de 2,24 buts encaissés par match et 5 blanchissages. Il remporte aussi dans la ligue américaine le trophée Jack-A.-Butterfield remis au joueur le plus utile des séries en 1994 et, la même année, le trophée Harry-« Hap »-Holmes.
Pendant son séjour à Tri-City, il est engagé dans un combat sur la glace avec Byron Dafoe des Winter Hawks de Portland. Au cours de leur carrière dans la LNH, ils entretiennent une rivalité amicale, si amicale qu'ils sont chacun le témoin de l'autre à leur mariage respectif. Kölzig marque un but avec les Americans le . Depuis 2005, il fait, avec Stu Barnes, partie d'un groupe qui détient des droits de propriété sur les Americans de Tri-City, garantissant que l'équipe restera à Kennewick (Washington) pour les dix ans à venir.
Kölzig prend part aux Jeux olympiques de Nagano dans l'uniforme de l'Équipe d'Allemagne de hockey sur glace comme gardien titulaire : il enregistre deux victoires et aucune défaite, avec une moyenne de buts alloués de 1,00. Il répète l'expérience olympique en 2006 à Turin. Il a aussi le mérite d'être un des quatre gardiens de toute l'histoire à n'avoir accordé aucun but au cours d'une période du Match des étoiles, en 2000, après avoir pris également part au Match des étoiles de 1998.
Il est, en 2004, élu meilleur joueur de l'histoire des Capitals par les supporteurs du club à qui on avait demandé d'élire les 30 meilleurs joueurs de l'histoire de la franchise pour célébrer le trentième anniversaire du club. Il est aussi connu pour ses services en dehors de la glace : il a fondé, en compagnie de Byron Dafoe et de Scott Mellanby, Athlètes Against Autism ("Les athlètes contre l'autisme") qui sensibilise les gens à l'autisme et collecte des fonds pour faire avancer les recherches. Il remporte le trophée King-Clancy en 2006 pour son œuvre humanitaire et est nommé un des 10 washingtoniens de l'année 2006 par le Washingtonian Magazine en 2000.