Carl Harilds forældre var murersvend Carl Christian Hansen og Cathinca Christiane Jensen. Han tog senere navneskift fra Hansen 15. april 1886. Han blev samme år murersvend og gik dernæst først på Teknisk Skole og derefter på Kunstakademiet fra 1888 indtil 1896. Harild var ansat hos Hans J. Holm og Vilhelm Friederichsen og medarbejder hos Hack Kampmann, bl.a. som konduktør ved Toldboden, Århus Teater og Ny Carlsberg Glyptotek.
Kampmann skulle få størst indflydelse på Harilds linje i arkitekturen, og lige som sin læremester bevægede Harild sig fra nybarok og nationalromantik (Egelund Slot) og til nyklassicismen, der bedst kommer til udtryk i de karske og funktionelle huse for Carlsberg.
Han fik Akademiets stipendium 1906, vandt Eckersberg Medaillen 1918 og fik Bissens Præmie for arbejder for Carlsberg Bryggerierne 1930. Han rejste i Tyskland, Italien og Grækenland 1906, var i Italien flere gange senere og i Spanien og Marokko 1927.
Carl Harild giftede sig 7. maj 1896 i København med Elna Margrethe Christine Hansen (3. december 1868 i København – 18. marts 1961), datter af malermester Lars Christen Hansen og Johanne Margrethe Clara Heidkampf. Hans urne findes på Frederiksberg Ældre Kirkegård.