Schlegel var sønn av en messingsmed. Faren samlet på sommerfugler, og vekket Hermanns interesse for naturen. Et funn av et våkereir førte til at han ble interessert i fugler, og til at han traff Christian Ludwig Brehm. Etter å ha arbeidet for faren en periode, drog han til Wien. I 1824 fulgte Schlegel forelesninger av Johann Jakob Heckel og Leopold Fitzinger. Et anbefalingsbrev fra Brehm førte til at han ble ansatt ved Naturhistorisches Museum.
Etter ett år ble han anbefalt til Coenraad Jacob Temminck, som var direktør ved det naturhistoriske museet i Leiden. Schlegel begynte som Temmincks assistent, og arbeidet først mest med krypdyr. Det var meningen at Schlegel skulle reise til Java, men dødsfallet til Heinrich Boie stanset den planen.
Etter hvert arbeidet Schlegel også med andre dyregrupper, og da Temminck døde i 1858, overtok han som direktør ved museet i Leiden. Da hadde Schlegel arbeidet for Temminck i 33 år. Schlegel var spesielt interessert i Sørøst-Asia, og derfor sendte han i 1857 sønnen Gustaaf til Kina som fuglesamler. I 1859 reiste Heinrich Agathon Bernstein (1828–1865) til Ny-Guinea på vegne av Schlegel. Da Bernstein døde i 1865, fortsatte Hermann von Rosenberg hans arbeide.
I 1862 ble Otto Finsch Schlegels assistent. Samtidig ga Schlegel ut museumsmagasinet Notes from the Leyden Museum og verket Muséum d'histoire naturelle des Pays-Bas, som utkom i fjorten bind fra 1862 til 1880 og ble illustert av John Gerrard Keulemans, Joseph Smit (1836– 1929) og Joseph Wolf.
I 1864 døde Schlegels hustru, og Otto Finsch flyttet til Bremen som kurator og ble fra 1866 direktør for Ntr,rmd Völkerkunde-Museum.
^Dette antall ifølge Gans Collections. Men det var 98 arter ifølge Peter Uetz: «The original descriptions of reptiles», Zootaxa, Nr. 2335, 2010, 59-68, pdf