Dieter Gieseler vient au cyclisme influencé par son frère Edi, professionnel à partir d'. Il est entrainé par Gustav Kilian. En 1960, il devient champion d'Allemagne de l'Ouest du kilomètre. Aux Jeux olympiques de Rome, il réalise son record personnel au kilomètre, 1 min 8 s 75. Il obtient la médaille d'argent, étant battu par l'Italien Sante Gaiardoni, qui bat le record du monde en 1 min 7 s 27.
De 1962 à 1967, Dieter Gieseler est coureur professionnel. Il fait équipe en course à l'américaine avec Gustav Kilian junior, fils de son ancien entraîneur.
