Fra 1998 til 2006 syklet han for T-Mobile Team, tidligere Team Telekom. T-Mobile-ledelsen ønsket å signere en ny kontrakt med ham på sensommeren 2006, og prøvde å lokke ham med penger og lovnader om en kapteinsrolle. Klöden takket allikevel nei og forlot laget. I dagboken sin skrev han at avgjørelsen først og fremst skyldtes det faktum at Astana er et svært sterkt lag med ryttere som Alexander Vinokourov og Andrej Kasjetsjkin, og at han og laget dermed kunne oppnå mye i den kommende sesongen. Det ryktes også at noe av grunnen ligger i måten Jan Ullrich ble behandlet av T-Mobile-ledelsen da dopingskandalen begynte sommeren 2006. På det tidspunktet var det heller ikke slått fast at Ullrich virkelig var innblandet. Klöden skal blant annet ha vært skuffet over at Ullrich ble avskjediget via faks. Etter at Klödens avgjørelse ble kjent, uttalte T-Mobile-ledelsen at de ikke kunne skjønne hvorfor Klöden forlot T-Mobile Team, hvor han ville vært kaptein, for å være hjelperytter for Alexander Vinokourov, men at de allikevel respekterte beslutningen.