Nato Hermann Kosterlitz in una famiglia israelita di Berlino, era nipote da parte di madre di Julius Salomon, un famoso tenore che era morto nel 1880 di tubercolosi.
Suo padre, un commesso, abbandonò la famiglia quando Hermann era ancora un ragazzino. Lui finì gli studi superiori a Berlino lavorando al contempo come scrittore di racconti e cartoonist. Si avvicinò al cinema per merito di suo zio Richard che aveva aperto una sala cinematografica dove lavorava anche sua madre che suonava il piano accompagnando con la musica la proiezione dei film muti. Hermann si sedeva vicino a lei e rimaneva ogni giorno almeno un paio d'ore a guardare lo schermo. A 17 anni, si fece conoscere con i suoi racconti e il successo gli procurò un lavoro da sceneggiatore. Diventò così un collaboratore del regista Kurt Bernhardt.