Кладовище було засновано в 1772 році на Щекавиці для поховання мешканців Подолу, після епідемії 1770 року, коли під час епідемії чуми померло близько шести тисяч киян. У 1782 році тут збудовано кладовищенську Всіхсвятську церкву, навколо якої ховали визначних діячів магістрату.
Ще у 1900 році Міська управа ухвалила закрити кладовище. Поодинокі поховання тривали до 1928 року. Після цього воно поволі руйнувалося, частину його було пізніше зайнято військовим об'єктом.
У 1935 році в генеральний план забудови Києва був внесений пункт про перетворення багатьох київських пагорбів, у тому числі й гори Щекавиці, у міські зони відпочинку — парки. Тому церкву Всіх Святих та більшу частину кладовища, крім старообрядницької та мусульманської ділянок, тоді знесли.