Hugo Gyldmark ble født som den tredje i en søskeneflokk på fire brødre som alle ble musikere. Hugo spilte cello, og hans første engasjment som orkestermusiker fikk han allerede som 15-årig i Nakskov. Tilbake i København dannet han sammen med brødrene Leonard og SvenGyldmark-trioen, som blant annet spilte til stumfilmforevisninger. Han opptrådte også under navnet Sid Merriman.