נולד בפולין לרייצא מירל ולאדמו"ר אברהם שלמה. על פי המסופר, החל מגיל שלוש, נהג אביו להכניסו לחדר מלא ספרי קודש ולסגור בעדו את הדלת, וכך התרגל ללמוד ללא הפסקה. בילדותו למד אצל אביו ואצל סבו - האדמו"ר אריה לייב (לייבוש). אביו לקחו גם לאדמו"רים מחסידויות אחרות.
בגיל 22 התמנה לרב באוז'רוב. כדי לקבל את אישור השלטונות למד את שפת המדינה, עם הרב יחזקאל הולשטוק, בנו של האדמו"ר מאוסטרובצה.
בשנת תרפ"ו לחץ עליו סבו להגר לאמריקה, באמרו שהתגלה לו שאחד מנכדיו חייב לעבור לשם. הרב אפשטיין עשה כדבריו ועבר לניו יורק, למרות חששו לחינוך הילדים באמריקה. כמה חודשים לאחר הגיעם לניו יורק נולד לבני הזוג ילדם הרביעי, לאחר ששלושת הקודמים, בן ושתי בנות, נפטרו.
הרב אפשטיין היה מראשי היוצאים כנגד חילול השבת ההמוני. הוא עודד אנשים לצאת, להפגין ולהיאבק על השבת שנזנחה. נהג לומר שהמחלל שבת הוא כמי שמבטל את כל התורה, שהרי אמרו חז"ל ש"שקולה שבת כנגד כל המצוות".
באר משה, חמישה כרכים על חומשי התורה וכרך אחד על נביאים. בין השאר דרכו להסביר פרטים אשר נראים במבט ראשון מיותרים או ברורים מאליהם, תוך כדי הסתמכות על דברי חז"ל בתלמודים, במדרשים ובזוהר. עוד הוא מדגיש את היסוד של "מעשה אבות סימן לבנים", ומראה כיצד כל מעשיהם של האבות הם הכנה והוראה עבור הדורות הבאים.
אש דת 11 כרכים, תש"י-תשכ"ג. הסדרה עוסקת בעיקר בענייני אהבת ה', אהבת התורה ואהבת ישראל. הספר מסודר לפי פרשיות התורה והוא מבוסס גם על תורת הקבלה. סגנונו בסדרה זו רחב וארוך יותר לעומת 'באר משה'.
רוב ספריו עוד לא הודפסו וקיימים עדיין רק בכתב יד.
שיטתו
הרב אפשטיין הקפיד למצוא בכל דבר את הטוב. נהג להדגיש כי גם מתוך עינוי וייסורים צומח טוב, כפי שהשיעבוד במצרים הכשיר את בני ישראל לכניסה לארץ.
הדגיש כי יש לאהוב כל אדם, גם מי שאיננו שומר מצוות. קרא לקרב את החילוניים ולא להרחיקם, ולהתפלל שהקב"ה יגרום להם לחזור בתשובה. השתדל לסנגר על ישראל ככל שאפשר.
לטוענים לפני השואה כי אין לעלות לארץ ישראל משום ההשפעה החילונית הקיימת בה, אמר שזוהי עצת המרגלים. שהרי משה רבנו שלחם לבדוק רק את מצבם הצבאי והחומרי של עמי כנען, ואילו הם נתעטפו צדקות ואמרו שלא כדאי להיכנס לארץ מחשש של השפעה שלילית מן היושבים בה.
לקריאה נוספת
דוד זריצקי, בוצינא קדישא, נדפס בשנית בתוך ספרו: זכרונם לברכה: גאוני הדורות ואישי סגולה, עמ' 303–307
