H.C. Gedde var sønn av generalmajor Samuel Christoph Gedde og Marie Elisabeth Pechernaut de la Remière og ble født i Oldenburg, hvor faren da var ingeniørmajor. Allerede ti år gammel startet han sin militære løpebane ved fortifikasjonsetaten og ble i 1754 sekondløytnant og underkonduktør ved det sjællandske hvervede infanteriregiment. I årene 1758–1761 deltok han i den franske hærs operasjoner i syvårskrigen. Tilbake i Danmark ble han i 1761 kaptein ved infanteriet, i 1763 overkonduktør ved ingeniørkorpset, og i 1768 ingeniørkaptein.
I Norge er han mest kjent som arkitekt for Infanterikasernen ved Torget i Fredrikstad, 1700-årenes største og mest monumentale offentlige byggverk i landet, ferdig i 1787. Han tegnet i 1791 Huth fort, et blokkhus på Kjerringholmen ved Fredrikstad. I årene 1793–1802 var han interimskommandant i Fredrikstad, og fra 1796 dessuten direktør for Den militære oppmåling, forløperen for Norges geografiske oppmåling. Gedde ble i 1784 generalmajor av infanteriet. I 1802 ble han kalt til København som kommandør for ingeniørkorpset under general Heinrich Wilhelm von Huth.
I 1803 ble Gedde ridder av Dannebrogordenen. Han fikk i 1805 overkommandoen på Sjælland og interimskommandant i København. I 1806 overtok han kommandoen over alle festningsverk i København og over festningene Helsingør og Kronborg slott. I tillegg var han sjef for brannvesenet og borgerbevæpningen i København. Etter at general Huth døde i 1806 overtok han også stillingen som sjef for ingeniørkorpset. På grunn av sykdom fratrådte han disse stillingene i 1807.
Etter Københavns bombardement i 1807 ble Gedde gjort til syndebukk for nederlaget og beskyldt for å ha fortiet festningenes slette tilstand og ikke i tide forberedt forsvaret. En militær domstol dømte ham til døden, til tross for at han kunne påvise at ingeniørkorpset gjentatte ganger hadde foreslått tiltak som ble avslått, og derfor ikke kunne gjøres ansvarlig. Dommen ble oppfattet som urettferdig, og på grunn av lang og tro tjeneste ble Gedde i 1809 benådet av kong Frederik VI og fikk avskjed i nåde – men uten pensjon.
Gedde giftet seg 1. gang i 1776 med sin kusine Fredrikke Christiane Fischer (1745–1787) og 2. gang i 1789 med hennes søster Øllegaard Sophie Fischer (1752–1821). Han er begravet på Garnisons kirkegård i København.