Najstarsza wzmianka o miejscowości pochodzi z 1254 roku. W 1454 potwierdzono prawa miejskie Gräfenhainichen. W trakcie wojny trzydziestoletniej w 1637 miasto zostało zniszczone przez Szwedów. W latach 1695–1699 wzniesiono barokowy ratusz. W latach 1697–1706 i 1709–1763 leżało w granicach unijnego państwa polsko-saskiego. Od 1806 w granicach Królestwa Saksonii, związanego w latach 1807–1815 unią z Księstwem Warszawskim. Na mocy postanowień kongresu wiedeńskiego z 1815 miasto przeszło pod panowanie Prus. Od 1871 w granicach Niemiec. W latach 1949–1990 część NRD.
Słup dystansowy z 1728 roku, ozdobiony herbami Polski i Saksonii, królewskim monogramemAugusta II Mocnego (AR - Augustus Rex - Król August) i polską koroną królewską, odnowiony w 1971/72
Kamień półmilowy z 1723 w dzielnicy Tornau, ozdobiony królewskim monogramem Augusta II
Ratusz z lat 1695–1699, ozdobiony łacińską inskrypcją z 1696, upamiętniającą księcia Fryderyka Augusta przed jego koronacją na króla Polski Augusta II
