Tukkukauppiaan perheeseen syntynyt Houlberg opiskeli Kuninkaallisen teatterin näyttelijäkoulussa ja työskenteli siellä vuodesta 1906. Vuonna 1914 hän siirtyi Dagmar-teatteriin ja palasi Kuninkaalliseen teatteriin vuonna 1918. Houlberg vetäytyi näyttämöltä vuonna 1933.[1]
Houlbergin ensimmäinen elokuva oli Nordisk FilminEt gensyn vuonna 1910. Vuonna 1912 hän siirtyi Skandinavisk-Russisk Handelshusille, mutta palasi Nordiskille vuonna 1916. Houlbergin tunnetuimpia elokuvia olivat A. W. Sandbergin ohjaama Klovnen (1917) ja Det døde Skib (1920). Hän teki yli 40 mykkäelokuvaa[1] ja näytteli 1930-luvun alussa myös kahdessa äänielokuvassa[2].
