האתר הוקם ב-1948 על ידי משרד הדתות ביוזמת ד"ר שמואל זנוויל כהנא, מנכ"ל המשרד, שהיה אז "הממונה" על הר ציון. מטרתו הייתה להקים אתר זיכרון שיהווה קבורה סמלית לקהילות שנכחדו, על מנת שניצולי השואה יקיימו בו טקסי זיכרון לקהילותיהם. לימים האתר הפך למוזיאון.
המיקום על הר ציון נבחר בהשראת פסוק מספר עובדיה: ”וּבְהַר צִיּוֹן תִּהְיֶה פְלֵיטָה, וְהָיָה קֹדֶשׁ” (א', יז), ובשל העובדה כי באותם ימים הר ציון היה נקודת הציון הקרובה ביותר אל מקום בית המקדש בהר הבית שהיה תחת שלטון ירדני, והיווה כעין תחליף למקומות הקדושים שבעיר העתיקה, עד לשחרורה של ירושלים.
על המוזיאון
המוזיאון כולל חצר גדולה וכשבעה חדרי תצוגה. קירות החצר וחלקים מן המוזיאון מכוסים בלוחות זיכרון עבור יותר מאלפיים קהילות יהודיות שנכחדו בשואה. במשך עשרות שנים נהגו ניצולי הקהילות להתאסף בימי זיכרון ולקיים טקסי אזכרה.
המוצגים במוזיאון ממוספרים על פי האלף-בית העברי. רבים מהמוצגים עוסקים בגבורת הרוח היהודית באמצעות אלמנטים כגון ספר תורה מפרושקוב שבפולין, מוכתם בדם, השוכב בקבר שקוף בכניסה, או סידור בכתב יד שנכתב על פי זיכרונו של יהודי במחנה הריכוז בוכנוואלד. תצוגות נוספות כוללות תיקים, סוליות נעלים, תוף וארנקים העשויים מקלף של ספרי תורה, מדים של אסיר מאושוויץ, תפילין זעירות שהוברחו אל תוך המחנות ושופר קטן שהוברח גם הוא לתפילת הימים הנוראים במחנות. המוזיאון מציג גם מעיל קצר מגווילי ספר תורה שנתפר עבור קצין נאצי.
לעומת יד ושם, המציג פריטים אישיים רבים ומתאר את מהלך השואה דרך עיני הפרט הבודד, מרתף השואה מתמקד בחורבן הקהילות בזיכרון הקולקטיבי הדתי ובהנצחה בעלת מוטיבים יהודיים מסורתיים כגון אמירת קדיש, קריאת משניות ותהילים וכתיבת שמות הנספים על מגילות קלף ייעודיות. בהנצחה במוזיאון אין נוכחותה של התנועה הציונית משמעותית ביותר. הנרטיב המתואר במוזיאון מתמקד במאמצי הנאצים להשמדת היהודים והמוסר הייחודי להם המגולם בתורת ישראל, והעובדה כי היהודים עסקו בקיום מצוות בתוך המחנות מוכיחה כי הנאצים לא הצליחו לשבור את רוחם.
מלבד שיפוצים ושינויים קלים לא השתנה המוזיאון מאז הקמתו.
אנדרטאות
במוזיאון ישנן מצבות ואנדרטאות זיכרון רבות, כגון מצבה לזכר הטלאי הצהוב, אנדרטת הדמעות בחצר המוזיאון לזכר למעלה ממיליון ילדים שנרצחו בשואה, אנדרטה לזכר מורדי גטו ורשה, מצבת שיש לזכר בית הכנסת ההרוס של קהילת סוחובולה ואנדרטה לזכר יהודי איטליה.
בחלל הפנימי מוצב ארון זכוכית ובו 30 כדי אפר שהובאו בשנת 1949 על ידי שמעון ויזנטל וניצולי שואה אחרים ממחנות באוסטריה. קבורת אפר יהודי אוסטריה במרתף השואה נחשבת לטקס הראשון שהתקיים בישראל לזכר נספי השואה. בחלל זה נמצא גם דגם קטן של קרמטוריום ממחנות ההשמדה.
בארונות תצוגה קטנים למרגלות ארון האפר, מוצגות חתיכות סבון "ריף" גרמני, שנטען לגביו כי הוא סבון שנוצר משומן שנלקח מיהודים. עם זאת היסטוריונים סבורים שאין בסיס לטענה זו. זו אחת מן הסיבות לסירוב יד ושם לשתף פעולה עם המקום[2]. כמו כן, באתר מוצג בקבוק זכוכית שלכאורה הכיל ציקלון-בי.[3]
המוזיאון במאה ה-21
בשנים האחרונות המקום משמש בעיקר כמקום בו האוכלוסייה החרדית נחשפת לשואה. מכיוון שהתכנים המוצגים ביד ושם אינם תואמים את תפיסת עולמם של החרדים.[4]
בשנים האחרונות האתר אינו מתוחזק ברמה גבוהה, ראש ישיבת התפוצות הרב יצחק גולדשטיין, טען כי מדינת ישראל איננה משתתפת במימון עמותת מרתף השואה והוא נאלץ לתפעל את המקום ההיסטורי בעל הייחודיות הדתית-מסורתית, בעצמו.
האתר אינו מתוקצב על ידי משרד התרבות או עיריית ירושלים, ואינו מוכר כמוזיאון. בשנים האחרונות הוא תוקצב על ידי המשרד לשיווין חברתי[5]. תחקיר של כאן 11, בדצמבר 2022, העלה שהמקום משמש כמחסן מזרנים וציוד של ישיבת התפוצות הסמוכה אליו. התחקיר גילה כי עמותת ישיבת התפוצות ועמותת מרתף השואה מנוהלות על ידי אותם אנשים, ולא ברור איך קיבלו אנשי הישיבה את הבעלות על אתר ההנצחה.