Di peringkat kelab, Ziege beraksi untuk Bayern MunichBayern Munich (1990–97),[2]Milan (1997–99) dan Middlesbrough (1999–2000). Pada musim panas 2000, Liverpool F.C. membida 5.5 juta paun sterling untuk membeli Ziege. Middlesbrough mendesak mereka memerlukan tambahan 6 juta paun untuk Ziege tetapi kelab memaksa Ziege berbincang dengan pihak Liverpool sebelum Ziege berjaya melakukan perpindahan.[3] Beliau melakukan penampilan sulungnya untuk Liverpool ketika menang 3-1 ke atas Manchester City pada 9 September 2000 dengan menggantikan Steven Gerrard pada separuh masa kedua. Beberapa siri kecederaan dan peningkatan prestasi Jamie Carragher[4] memaksa beliau berpindah ke Tottenham pada penghujung musim. Beliau menjaringkan dua gol ketika di Liverpool; menentang Leeds dalam saingan liga[5] dan Stoke dalam Piala Liga Inggeris.[6] Ziege juga menyumbangkan gelaran "treble" kepada Liverpool pada musim 2000-01. Beliau menjadi pemain gantian pada masa tambahan pada perlawanan akhir Piala Liga Inggeris dan menyudahkan tendangan penalti pada penentuan penalti menentang Birmingham. Namun, beliau tidak termasuk dalam barisan skuad final Piala FA Inggeris dan Piala UEFA 2001.
Pada 14 Mac 2002, Liverpool didenda 28 ribu paun oleh Persatuan Bola Sepak England kerana membawa masuk Ziege dengan menyalahi undang-undang manakala pemain itu didenda 10 ribu paun.[7] Ketika di Tottenham, beliau menjaringkan gol pada perlawanan akhir Piala Liga Inggeris 2002 tetapi pasukannya akur tewas 2-1 kepada Blackburn. Walau bagaimanapun, masalah kecederaan Ziege semakin meningkat. Pada tahun 2004, kontraknya ditamat melalui persetujuan bersama sebelum beliau berpindah semula ke Jerman.
Ziege kembali ke Jerman untuk bermain bersama kelab Borussia Mönchengladbach pada Jun 2004[8] sebelum mengumumkan persaraan pada Oktober 2005 apabila beliau tidak beraksi sejak Disember 2004 akibat kecederaan buku lali yang berterusan.[9]
Selepas bersara dari arena bola sepak, Ziege mengambil diploma UEFA dalam bidang pengurusan. Pada tahun 2006, beliau memulakan karier jurulatihnya dengan berpindah ke kelab profesional terakhirnya sebagai seorang pemain iaitu Borussia Mönchengladbach, di mana beliau menjadi pengurus pasukan bawah-17 tahun menggantikan Thomas Schumacher. Pada musim 2006–07, pasukan bawah-17 telah memenangi sepuluh daripada 17 perlawanan di bawah kendalian Ziege dan pada Mac 2007, beliau menjadi pengarah sukan kelab bagi menggantikan Peter Pander.[11] Selepas perlantikannya, hanya berbaki sepuluh perlawanan sehingga penghujung musim. Borussia Mönchengladbach menduduki tangga tercorot liga dengan kekurangan lima untuk selamat daripada zon penyingkiran. Pada 5 Oktober 2008, Ziege menggantikan Jos Luhukay untuk menjadi pengurus sementara kelab. Jawatan sebagai pengurus sementara kelab berlarutan sehinggalah pada 18 Oktober 2008 apabila Hans Meyer menjadi pengurus tetap. Pada 15 Disember 2008, Ziege meninggalkan Borussia Mönchengladbach.
Arminia Bielefeld
Pada 26 Mei 2010, Ziege menandatangani kontrak sebagai pengurus bagi kelab Arminia Bielefeld. Walau bagaimanapun, kerjaya pengurusnya di Arminia bermula dengan keputusan hambar apabila hanya mencatat satu kemenagnan daripada lapan perlawanan. Ia juga merupakan permulaan musim Arminia Bielefeld paling truk dalam masa 23 tahun. Ziege telah dilepaskan dari jawatannya pada 6 November 2010 selepas tewas 2-0 kepada FC Augsburg.
Ziege menjadi ketua jurulatih SpVgg Unterhaching pada 20 Mac 2014. Perlawanan pertama Ziege bersama pasukan barunya ketika terikat seri 1-1 bertemu RB Leipzig. Seterusnya, beliau membuat keputusan untuk meletak jawatan pada 5 Mac 2015. Perlawanan terakhirnya ialah kekalahan 2-1 kepada Stuttgarter Kickers pada 21 Mac 2015.