In 1991 begon hij zijn profcarrière bij Helvetia-La Suisse. In 1993 kwam hij bij Telekom terecht en reed daar alle grote wedstrijden naast grote namen als Erik Zabel en Jan Ullrich. Alleen al aan de Tour de France nam Rolf Aldag tienmaal deel. Bij de Tour van 2005 maakte hij echter geen deel uit van de selectie van T-Mobile.
Op 24 mei 2007 maakte Aldag bekend enige tijd doping (epo) te hebben gebruikt. Ook zijn voormalige ploeggenoten Erik Zabel, Udo Bölts en Christian Henn gaven toe doping te hebben gebruikt.[1]