A învățat meseria de prelucrător de bijuterii de la tatăl său.
Când acesta din urmă a plecat în SUA, Gräffe a trebuit să preia afacerea pentru a-și întreține familia.
În 1828 a fost numit profesor al Institutului de Tehnologie din Zurich și, din 1833, profesor asociat la Universitatea din Zurich de la data înființării acesteia. În același timp, a fost și profesor la Obere Industrieschule .[8]A scris mai multe manuale pentru orele de la Institutul Tehnic. În 1860 a devenit profesor asociat la universitate. Din motive de sănătate, s-a retras de la școala industrială în 1868. Anterior, el renunțase la o profesie de profesor de matematică la Universitatea din Zurich, ceea ce l-a afectat.
A contribuit la definitivarea metodei lui E. Waring și Dandelin pentru rezolvarea aproximativă a ecuațiilor numerice, prin utilizarea de serii recurente, care permite calcularea în mod simultan a tuturor rădăcinilorreale și complexe și este cunoscută sub denumirea metoda lui Gräffe, publicată la Zürich în 1837 și completată ulterior în 1839.[9] Metoda sa a fost găsită independent de Germinal Pierre Dandelin (1823) și Nikolai Ivanovici Lobacevski (publicat în manualul său de algebră superioară în 1834), pe care l-a dezvoltat din 1833. În 1838 a participat la un concurs la Academia din Berlin, dar a eșuat din motive formale (lucrarea sa, contrar regulilor, fusese deja tipărită).
Johann Jakob Burckhardt: Gräffe, Karl Heinrich. În: Neue deutsche Biographie (NDB). Volumul 6, Duncker & Humblot, Berlin 1964, ISBN 3-428-00187-7 , p. 713 f. (copie digitală ).
