הצטרף לחברת "מנוחה ונחלה". בשנת תר"נ (1890) היה בקבוצה של חובבי ציון בראשותו של הרב שמואל מוהליבר שביקרה בארץ ישראל. רכש קרקעות במושבה רחובות, שהייתה אז בראשיתה. לעצמו רכש קרקע בירושלים ובנה עליה את ביתו. שב לרוסיה לחסל את עסקיו, ושלח לארץ ישראל את בנו יחידו מרדכי ואת חתנו אברהם זאב גורדון, והם התיישבו ברחובות.
בשנת תרנ"ג (1893) עלה שרגא פייבל יעקבזון עם אשתו ליבה לארץ ישראל והם התיישבו בבית שבנה בירושלים. הקדיש את זמנו ללימוד תורה ולמעשי צדקה. היה מהדמויות הידועות ביישוב הישן בירושלים וממקורביו של רבה של ירושלים הרב שמואל סלנט. תמך ביד רחבה בתלמידי חכמים ובמשפחות עניות בירושלים. כמו כן גייס את ידידיו העשירים ברוסיה לטובת מוסדות צדקה וחסד בירושלים. בנה בשכונת כנסת בירושלים בתים לתלמידי חכמים עניים, והם קרויים על שמו "בתי יעקבזון". היה שותף ליוזמת יעקב ברוידא בהקמת בתי ברוידא, יוזמה שהונצחה בשלט על שער בתי ברוידא, עליו נכתב:
ונתתי להם בביתי ובחומותי יד ושם טוב מבנים ובנות
החמישה ועשרים בתים וביהמ"ד קהילת יעקב והמגרש והבור נבנו מכסף הגביר הצדיק הנדיב המפורסם
מוהר"ר יעקב יוסף ברוידא זצ"ל
בהרב ר' בנימין זצ"ל, שנל"בע א'דרח מרחשון תרס"ז והקדישם הקדש עולם לדור בהם תלמידי חכמים מצוינים
בתורה ויראת שמים ושתורתם אמנותם מעניי עדת הפרושים לשלש שנים חליפות עפ"י דעת האפוטרופוס
ועל הטוב יזכר שם הרה"ג שרגא פייבל יעקבזאהן זצ"ל אשר בהשתדלותו ועל ידו נבנו הבתים
יהי שמם לברכה בקרב הארץ וצדקתם תעמוד לעד
אשתו ליבה (נפטרה בכ"ג באייר תרס"ד) הייתה שותפה למעשי החסד והיא כונתה בירושלים "הצדקנית העשירה".
