נולד בפולין למשה אריה ז'ולטי ולשרה רחל לבית בלדקובסקי (בתו של הרב אלחנן בלדקובסקי מהעיירה סטביסק בפלך לומז'ה בפולין). בשנת 1926, בגיל שש, עלה עם משפחתו לארץ ישראל והם התיישבו בירושלים. בילדותו למד בישיבת עץ חיים, לאחר מכן בישיבת חברון ונחשב לעילוי.
בשנת תשט"ז (1956) החל לכהן כחבר בית הדין הרבני בירושלים[1], וכעבור מספר שנים, בהיותו כבן 35 בלבד, התמנה כחבר בית הדין הגדול[2][3][4]. זכה פעמיים בפרס הרב קוק לספרות תורנית – לשנת תשי"ד ולשנת תשכ"ד.
בשנת תשכ"א נפטר הרב צבי פסח פרנק, רבה האשכנזי של ירושלים. בשל חילוקי דעות במערכות הציבוריות בעיר לא התקדמו תהליכי בחירת ממלא מקומו. בחלוף למעלה מעשור, בחנוכה ה'תשל"ב (1971), הכתירו רבנים חרדים בולטים בירושלים, ואנשי אגודת ישראל, את הרב ז'ולטי באורח לא רשמי כרב העיר ירושלים[7][8][9].
בנובמבר 1977 נבחר הרב ז'ולטי באופן רשמי לרבה האשכנזי של ירושלים, לאחר שתדלנות רבה של הרב עובדיה יוסף ונציגי אגודת ישראל[10], אשר הובילו את מפלגת המערך לתמוך ברב ז'ולטי. מולו התמודד הרב דוב ליאור, שכיהן בזמנו כראש ישיבת ניר קריית ארבע ונציג הציבור הדתי לאומי, ונתמך בידי הרב גורן[11]. לצדו נבחר הרב הספרדי שלום משאש.
משפחתו
אחיו הרב יצחק מיכל, היה דיין. בתו היא הסופרת החרדית חנה בת שחר הנשואה לרב יהושע אייכנשטיין ראש ישיבת יד אהרן בירושלים; הרב ז'ולטי כיהן כנשיא הישיבה. בנו, הרב אריה, הוא חתנו של יצחק חברוני, שהיה מנהל ישיבת חברון. בתו השנייה מרים, נשואה לרב דוד וילמובסקי ראש ישיבה בישיבת יד אהרן בירושלים.