Han var sønn av bakermester Julius Gottfred Herold og Margrethe Jensen. I 1895 ble han gift mmed Magdalene Marguerit Louise von Gersdorff.
Han ble utdannet som lærer fra lærerskolen i Jelling i 1886. Han ble ansatt som lærer i den kommunale skole i København fra 1889, og tok samtidig sangtimer hos Peter Jerndorff og Leopold Rosenfeld i København, og i Paris. Han debuterte på Det Kongelige Teater i 1893 i tittelrollen i Charles GounodsFaust. Han var deretter i årene fram til 1903 Det kgl. teaters førende tenor, samtidig som han hadde en utstrakt internasjonal konsertvirksomhet. Dette omfattet blant annet:
En rekke konserter ved steder som Den keiserlige opera i Berlin, i Praha m. fl.
I Norge hadde han opptredener på Nationaltheatret i 1900 og i 1906.[5] Han sang også Pedro i en oppføring i Den norske opera i Oslo i 1913 i Eugen d’AlbertsTiefland, som også var Kirsten Flagstads debut[6] og Johan Halvorsen var dirigent. Det var også i Tiefland at Herold hadde sin siste opptreden på en operascene, 19. mars 1915, på sin 50. fødselsdag. Han skal ifølge komponisten Eugen d’Albert være den ideelle tolkeren av Pedro-rollen.[7]
Han laget stemmen til den første danske lydopptakelse på voksruller i 1904[8].
Han mistet sin formue i Landmandsbankens krakk i 1922, og ble da ansatt som operadirektør det Det kgl. Teater. I denne perioden sto han blant annet for produksjon av Gustave Charpentiers opera Luise, og deretter Modest MusorgskijsBoris Godunov. Senere var han lærer og leder av teaterets operaskole,[5] hvor han sto for opplæring av en rekke kjente sangnere, som Lauritz Melchior.
