נולד בשרעב[5] או בצנעא[6] שבתימן לרבי יצחק. יש אומרים שנולד ביום פטירתו של רבי שלום שבזי.[7] כפי הנראה למד מחכמי צנעא. בצעירותו עלה לארץ ישראל. בדרך עבר בבומביי, בצרה ובגדאד, שם למד בספר הזוהר בישיבה שעל קברו של הרב יצחק גאון, עד שמצא שיירה לדמשק.[8] משם המשיך לחלב, שם שימש לפרנסתו כעגלון לגביר. הוא עמד בקשרים עם חכמי העיר, ובין השאר חלק עליהם בשאלה הלכתית בנוגע למצוות אכילת כזיתמצה בפסח. משם המשיך אל ארץ ישראל.
הרש"ש עמד בראש חברת רבנים מפורסמים שנקראה "חברת אהבת שלום" ובין תלמידיו היו החיד"א,[11] הרב יום טוב אלגאזי (מהרי"ט אלגאזי), ר' חיים דילרוזה ור' אברהם גרשון מקיטוב גיס הבעל שם טוב. תלמידים אלה היו כמעט בני גילו של הרש"ש (ר' אברהם גרשון מקיטוב היה מבוגר מהרש"ש ביותר מעשרים שנה) ולמרות זאת נחשב הרש"ש בעיניהם לרבם.
הרבנים דוד בצרי ויצחק בצרי הקימו ישיבת מקובלים "השלום" בירושלים הנקראת על שמו.
^דב נוי, "פטירת רבי שלם שבזי באגדת־העם התימנית", בתוך: יוסף טובי (עורך), מורשת יהודי תימן: עיונים ומחקרים, ירושלים: הוצאת בואי תימן, תשל"ז, עמ' קלב-קמט