Karmeliterbröder uppförde 1520 den ursprungliga delen av museibyggnaden för att inrymma ett sjukhus för utländska sjömän. Byggnaden användes från 1536 och fram till början av 1900-talet bland annat som bostad. Helsingørs Folkebibliotek disponerade byggnaden 1910–1971.
Museet
Byggnaden har inrymt Helsingörs stadsmuseum sedan 1973. Museet visar framför allt stadens historia. Det har bland annat en stadsmodell, som visar hur Helsingör såg ut 1801. Det har också utställningar om Helsingörs guldålder, porträtt av stadens borgare och en utställning om Helsingör under den tyska ockupationen 1940–1945.
I museet finns också Helsingør Byhistoriske Arkiv.