Il étudie le piano et le violon au Conservatoire de musique de sa ville natale, et le chant avec Waldemar Staegemman et Rudolf Schmalnauer, puis à Berlin avec Ernst Grenzebach, et à Milan avec Mario Sammarco.
Remarqué par Fritz Busch, il débute à Dresde en 1924, dans le rôle du Hérault de Lohengrin. L'année suivante, il participe à la création de Doktor Faustus de Ferruccio Busoni, puis en 1926 de Der Protagonist de Kurt Weill et Cardillac de Paul Hindemith.
Tout au long de sa carrière, Paul Schöffler fit étalage d'une musicalité et d'une présence scénique étonnantes, utilisant une voix chaude, richement timbrée et expressive, qui en fit également un chanteur de lieder accompli. Il continua de chanter de petits rôles jusque dans les années 1970.