Kirsten startede sin seniorkarriere i 1983 hos Dynamo Dresden, en af storklubberne i den daværende østtyske Oberliga. I 1990 blev han desuden kåret til Årets Spiller i Østtyskland.
Efter Tysklands genforening i 1990 fik østtyske spillere lov til at spille for klubber i det gamle vest, og dette udnyttede Kirsten til at skrive kontrakt med Bundesliga-klubben Bayer 04 Leverkusen. Her var han tilknyttet i de følgende 14 sæsoner, og nåede at score 182 mål for klubben i 350 kampe. I 1993, 1997 og 1998 blev han Bundesligaens topscorer og er (pr. marts 2009) den femte-mest scorende spiller i hele ligaens historie.
Kirsten vandt med Leverkusen DFB-Pokalen (den tyske pokalturnering) i 1993, og var i 2002 desuden med til at nå finalen i Champions Leauge, der dog blev tabt til spanskeReal Madrid. Han sluttede sin karriere året efter, ved afslutningen af 2002-03-sæsonen.
