A park nevét egykori tulajdonosáról, Szentgyörgyi Horváth Zsigmondról kapta. (A Szentgyörgyi Horváth család nevéhez fűződik a balatonfürediAnna-bál is.) 1862-ben, az Alagút megépültekor Buda városa megvásárolta, és közparkká alakította. Az eladó Horváth család kikötötte, hogy a parkban játszóteret is kell létesíteni. A Horváth-kerten keresztül folyt az Ördög-árok, amely ma is a park alatt folyik, de már több mint 130 éve befedték. (A befedés munkálatait itt, a János hídnál kezdték el 1873. március 5-én, de csak 1876 júniusában adták át a Vérmezőig tartó szakaszt.) Azóta csak az 1838-ban állított Nepomuki Szent János-szobor emlékeztet a patak hajdani felszíni nyomvonalára. Az addigra megrongálódott szobrot az 1950-es években lebontották.[1]
A Nepomuki Szent János-szobor mögötti területen (szemben az 1900-ban épült állami főreálgimnáziummal, a mai Petőfi gimnáziummal) állt az 1878-ban felépített, és 1941-ben lebontott Budai Tornacsarnok.[2]
A Horváth-kert északnyugati sarkán (az Alagút utca és a Krisztina körút sarkán) működött a Budai Színkör. Épületében 1843-tól kezdve játszottak német vándortársulatok. Miután 1870-ben Buda városa határozatban tiltotta meg a német nyelvű színielőadásokat, számos magyar rendező váltotta egymást, általában kevés sikerrel. A nyári színházként működő épületet végül 1937-ben lebontották.[3] Helyén csak az 1935-ben állított Déryné-szobor maradt (Ligeti Miklós műve), amely az ostrom idején elpusztult. 2010-ben az Önkormányzat felállította a szobor másolatát (Polgár Botond művét).
A parkot a benne álló Haydn-szoborról egy időben Haydn-parknak is nevezték, de az elnevezés nem gyökeresedett meg. A bronz mellszobrot Kocsis András készítette 1960-ban.[4]
A park északi felén, az egykori Budai Színkör helyén 1961-ben szökőkutas vízmedencét létesítettek, partján állították fel Ferenczy Béni „Ülő nő” című bronzszobrát. A szökőkút csak néhány évig üzemelt, az 1970-es évek közepén tönkrement, azóta nem működött.[forrás?] 2010 körül felújították, modern díszvilágítással látták el és ismét üzembe helyezték.
2011 októberében a lengyelországi Chopin-2010 Emlékbizottság elnöke, Waldemar Dabrowski korábbi kulturális miniszter, a varsói Nemzeti Operaház főigazgatója, Szilasi Alex zongoraművészen keresztül a Budavári Önkormányzatnak egy Chopin-mellszobrot ajándékozott, amelyet a Horváth-kert nyugati szélén, a Krisztina körúti úton állítottak fel az adományozók jelenlétében. A szobor Bolesław Syrewicz lengyel szobrászművész (1835–1899) eredeti művének másolata.[7][8]
Említése egy örökzöld slágerben
Békeffi István írta a szövegét a „Legyen a Horváth-kertben, Budán” című dalnak, amelynek két sora idővel szállóigévé vált: „Legyen a Horváth-kertben, Budán /Szombaton este fél nyolc után”.[9]
↑Dr. Szablyár Péter: Az Ördög-árok. Élet és Tudomány. Sulinet, 1999. [2007. március 15-i dátummal az eredetiből archiválva]. (Hozzáférés: 2008. augusztus 1.)
↑A budai színházak. Magyar színháztörténet II. 1870-1920.. (Hozzáférés: 2008. augusztus 1.)
↑Kocsis András. HIK Elektronikus Felsőoktatási Tankönyv- és Szakkönyvtár. [2007. szeptember 29-i dátummal az eredetiből archiválva]. (Hozzáférés: 2008. augusztus 1.)
↑„Alagút u. 3. 1867-ben Az Ország Nádorához, Wastl Lambert; esetleges későbbi tulajdonosai neve ismeretlen; 1898-tól Philadelphia. (…) A régi házat az ostromkor bombatalálat érte, teljesen elpusztult.” Id.: Saly Noémi: A Krisztinaváros és a Philadelphia kávéház c. cikkből, [1]