Diplômé de la Színház- és Filmművészeti Főiskola (École supérieure d'art dramatique et cinématographique) de Budapest en 1949[2], Herskó suit, durant deux ans, des cours de cinéma à Moscou. Il exerce d'abord le métier d'acteur avant de réaliser deux courts métrages à la fin des années 1940. Son premier film de fiction est consacrée à la jeunesse de Budapest (Sous la ville, 1953). Il va devenir l'assistant de Zoltán Fábri pour Le Professeur Hannibal en 1956. Professeur à l'École supérieure d'art dramatique et cinématographique de Budapest, János Herskó quitte son pays et s'installe en Suède en 1971, après la réalisation d'un film au ton désenchanté Requiem à la hongroise.