Oprindelig lå kirken i god afstand til Stevns Klint, men den 16. marts1928 styrtede kirkens kor og en del af kirkegården i havet.[1] Kirken var dog allerede i 1912 blevet erstattet af Højerup Kirke.
En Skipper har den bygget, Som var i Havsnød, lige ved at strande Paa Fælskovs Rif; da lovede han Himlen, En Kirke han paa Klinten vilde bygge, Ifald hans Liv blev frelst. Han reddet blev, Og bygged Kirken yderlig paa Klinten. Nu skylle Havets Bølger mod dens Fod, Og rive store Stykker ud af Klippen; Snart vilde Kirken styrte ned, om ikke Hver Julenat den flyttede sig ind ad, Saa meget som et Hanefjed.