גרינבוים עמד בפולין בראש פלג ציוני רדיקלי בשם "על המשמר". היה חבר הסיים (הפרלמנט) הפולני מאז שנת 1919. לקראת הבחירות לסיים ב-1922 ארגן את כל המיעוטים בפולין (גרמנים, אוקראינים, רוסים, יהודים ועוד) להתמודדות במסגרת גוש משותף, על מנת להתגבר על חוקת הבחירות הפולנית, שנועדה לנטרל, באמצעות יצירת מחוזי בחירה מורכבים, את כוחם של המיעוטים[1]. במסגרת גוש המיעוטים הלאומיים השיגו המפלגות היהודיות בפולין הישג תקדימי וחד-פעמי, עם בחירתם של 35 צירים יהודיים לסיים, כמו גם השפעה ישירה על בחירת נשיא פולין.[2] בבחירות לסיים של 1928, החרים גרינבוים את נציגי אגודת ישראל והביא לכך שאף אחד מנציגי האגודה לא נבחר לסיים בבחירות אלו[3]. בבחירות של 1930 העמידו נציגי אגודת ישראל בתגובה את הרב אהרן לוין, שהיה פופולרי מאוד בקרב היהודים, לבחירה במחוז הבחירה של גרינבוים בוורשה, וגרינבוים הפסיד את מקומו בסיים לרב לוין.
גרינבוים היה ידוע בעמדותיו הלוחמניות כנגד האנטישמיות ובעד זכויות המיעוטים בפולין, והיה מתנגד חריף של אגודת ישראל. במסגרת זו האשים את החרדים מעל דוכן הסיים בכך שבעת מלחמת העולם הראשונה הם נותרו נאמנים לשלטונות הזרים בפולין (רוסיה, גרמניה ואוסטרו-הונגריה) ולא תמכו בתנועת העצמאות המקומית.
גרינבוים עלה לארץ ישראל בשנת 1933. היה חבר הנהלת הסוכנות היהודית וההסתדרות הציונית העולמית, ושימש גם כראש מוסד ביאליק. בזמן השואה היה חבר בוועדת ההצלה שנבחרה עם פרוץ מלחמת העולם השנייה כדי לקיים קשרים עם יהודי פולין ולסייע בהצלתם. בשנת 1942, כשהגיעו לארץ ישראל ידיעות על דבר ההשמדה ההמונית, הוא נבחר לעמוד בראש ועד ההצלה של הסוכנות היהודית, גוף בן 12 אנשים מהמפלגות השונות, שנועד לפעול לשם הצלת יהודי אירופה מההשמדה, אולם בנסיבות אותם ימים לא צלחה פעולתו.
בתום המלחמה, בנו, ניצול השואהאליעזר גרינבוים הואשם בפריז על ידי שני ניצולים כי התאכזר לאסירים כקאפו במחנה בירקנאו. גרינבוים ליווה את בנו במהלך המעצר והחקירה בפריז, שנסגרה בסופו של דבר. בנו זה נהרג בקרב רמת רחל במלחמת העצמאות[4]. בעקבות סיפורו הייחודי התפרסמו שני סרטים "הבן של גרינבוים" (2002) והסרט "הקאפו מירושלים" (2014).
לקראת הקמת מדינת ישראל היה גרינבוים לאחד מ-13 חברי מנהלת העם, חבר ועדת המצב, ומחותמי מגילת העצמאות. ביום הכרזת המדינה היה בין הנצורים בירושלים, ולפיכך לא השתתף בטקס, אולם את חתימתו הוסיף למגילה במועד מאוחר יותר[5]. היה חבר מועצת המדינה הזמנית ושר הפנים הראשון של מדינת ישראל בממשלה הזמנית, בין השנים 1948–1949. הוא התנגד אידאולוגית לכך שמשרד הפנים יהיה אחראי גם על המשטרה וסירב להיות גם שר המשטרה[6].
גרינבוים, שהגיע ארצה כאיש הציונים הכלליים, נטה במרוצת הזמן שמאלה: היה לתומך מפ"ם, ונודע כאיש בעל השקפת עולם חילונית מוצהרת. בשנת 1946 הוא לקח חלק באיחוד של הציונים הכלליים[7]. בעת ניסוח המצע של הציונים הכלליים באוגוסט 1948 יצא נגד מה שקרא "המגמה להפוך את הציונות הכללית למפלגה של המעמד הבינוני" ובעקבות זאת פרש עם חברי סיעה א' מהציונים הכלליים ונעשו ניסיונות לגבש הסכמה סביב הקמת המפלגה הפרוגרסיבית[8]. אולם בעוד שחברי סיעה א', בראשות אברהם גרנות חברו להקמת המפלגה הפרוגרסיבית, גרינבוים עמד בראש רשימה עצמאית בבחירות לאספה המכוננת (הכנסת הראשונה), אשר לא הצליחה לעבור את אחוז החסימה.
בשנים שלאחר מכן ערך גרינבוים מספר ספרים, בהם "האנציקלופדיה של הגלויות" ו"התנועה הציונית בהתפתחותה". היה אחד המועמדים לכהונת נשיא המדינה בבחירות הנשיאותיות ב-1952, אך הפסיד ליצחק בן-צבי. בשנותיו האחרונות חי בקיבוץ גן שמואל לצד בנו בנימין, שם נקבר.
