Kung nedstammet fra en slekt av rike handelsfolk bankierer i Taigu fylke i Shanxi-provinsen, og betraktet seg som en av etterkommerne etter Konfucius. Han kunne regne opp leddene bakover, og var selv etterkommer av filosofen i det 75. slektsledd. Kungs far var Kung Fantsi (kinesisk: 孔繁慈; pinyin: Kǒng Fáncí; Wade–Giles: K'ung Fan-tsi; 1861–1911).
H.H. Kung fikk sommeren 1901 hjelp av Luella Miner, en protestantisk misjonær uteksaminert fra Oberlin College i Ohio i USA, hjelp til å reise til Oberlin for høyere utdannelse. Men ved ankomst i San Francisco ble Kung og hans medreisende på grunn av Chinese Exclusion Act holdt i fengsel i flere uker til den kinesiske gegeralkonsul utløste dem ved å kausjonere for dem. De tok ble så nektet å reise til Obverlin for nok et år. Deres jernbanereise tok dem gjennom Canada, og det var bare etter en kraftig intervensjon fra en kongressmann for Ohio som gjorde at de kunne krysse grensen og inn i USA igjen. Kung fikk eksamen fra Oberlin i 1906, og fortsatte så med økonomistidier ved Yale University.[3]
Han giftet seg med Soong Ai-ling, en av Soong-søstrene, og ettersom Chiang Kai-shek var gift med en annen av søstrene, ble de to svogre.
I 1937 besøkte han og to andre kinesiske Kuomintang-representanter Tyskland, der de ble mottatt av Adolf Hitler.[4][5] Dette var på et tidspunkt da Tyskland hadde et samarbeid med Republikken Kina, og det var kinesernes håp å kunne utdnytte dette vennskapet - som gikk tilbake til republikkens tidligste tider - for å få hjelp mot japansk ekspansjonisme.