בעקבות מאורעות תרפ"ט (1929) הזדעזע רזיאל והצטרף לארגון ההגנה בירושלים. לאחר זמן קצר סיים קורס מפקדים.
באצ"ל
ב-1931 התפצל האצ"ל מתוך ההגנה, ורזיאל נמנה עם מקימי הארגון. בזמן מאורעות תרצ"ו-תרצ"ט היה רזיאל ממצדדי שבירת מדיניות ההבלגה כלפי הערבים. ב-1936 יצאו לאור בהוצאת הספרייה המרכזית של ברית חיילי החזית היהודית ספר "האקדח" מאת ד. ראש (שם עט של דוד רזיאל ואברהם שטרן), וכן הספר "תרגילי הסדר המכונס והמרווח" מאת י. גוש-חלב (דוד רזיאל). הספר הראשון שימש באצ"ל ובמחתרות במשך שנים אחרי פרסומו, בהיותו ראשון מסוגו בעברית[2]. ב-1937 הגיעו לידי הסכם המאחד את האצ"ל עם "ההגנה" אך רזיאל נשאר באצ"ל עם רוויזיוניסטים ואנשי בית"ר. במחתרת ראו בו רבים סמל של מופת והקרבה עצמית.
בשנת 1938 מינה זאב ז'בוטינסקי את דוד רזיאל למפקד האצ"ל, וכך היה למפקדו הרביעי של הארגון. ההחלטה הראשונה שקיבל הייתה לבטל את התואר "ראש המפקדה", ולהציע שמעמדו כראש המפקדה יהיה "ראשון בין שווים", בהמשך הרחיב את פעולותיו של הארגון גם לליטא ולפולין. כינויו המחתרתי של רזיאל היה "בן ענת", על שם השופטשמגר בן ענת.
תחת פיקודו, החל מיולי 1938, בוצעו פעולות טרור רבות נגד ערבים ברחבי הארץ, וזאת כתגובה להירצחם של יהודים רבים במאורעות. כך למשל, בירושלים בוצעו מספר רב של פעולות ירי וחבלה, ובהן התקפת אוטובוס ערבי בפצצה ברחוב יפו, ופיצוץ מוקש בשוק הירקות בעיר העתיקה בירושלים. בפעולות אלה נרצחו מעל ל-200 אזרחים ערבים, לפחות 70 מהם באירועים שהיו לאחר תום המאורעות.
מעשים אלו הביאו לידי קיטוב ביישוב היהודי בארץ. ראשי המוסדות הלאומיים גינו אותם בלשון חריפה ואנשי מחנה הפועלים החליטו החלטות אופרטיביות כדי להחליש את האצ"ל ולבודדם מהיישוב היהודי.
בינואר 1939 יצא רזיאל מהארץ בזהות בדויה. בפברואר השתתף בוועידה בפריז שעניינה היה הסדרת עליית אף על פי, ושם נפגש, בפעם היחידה, עם זאב ז'בוטינסקי.
אישיותו הותירה רושם רב על ז'בוטינסקי, שאמר כי חיכה לאדם כמותו 15 שנה, ומינה אותו לנציב בית"ר בארץ.
במאי 1939 חזר מהשליחות מארצות הברית. בהגיעו עצרו אותו הבריטים, אך רזיאל הצליח להימלט. רזיאל, שהסתתר מפני הבריטים, לא יכול היה לישון באופן קבוע באותו מקום, והיה מגיע ללון מדי פעם בבית משפחת שפירא בשכונת גאולה. כשהיה מגיע, היה הרב אברהם אלקנה שפירא מפנה את מיטתו והולך ללימוד "משמר"[3].
ב-19 במאי עלה בידי הבריטים לאוסרו שנית והוא נכלא בכלא עכו.
באוקטובר 1939 שוחרר עם חברי מפקדת אצ"ל נוספים בערבותו של פנחס רוטנברג.
תחת הנהגת רזיאל הוחלט כי האצ"ל לא ייאבק בבריטים בזמן מלחמת העולם השנייה, ותחת זאת יסייע להם במלחמה בגרמניה הנאצית. הדבר הביא לפרישת חברים מן האצ"ל, ובראשם חברו ושותפו לדרך עד אז, אברהם שטרן (יאיר), ולהקמת הלח"י.
מותו ודבר קבורתו
בשנת 1941, לאחר שפרץ בעיראקמרד אנטי-בריטי בראשות רשיד עאלי אל-כילאני, נענה רזיאל לבקשת הבריטים לשגר יחידת קומנדו לחבל במתקני זיקוק הנפט ליד בגדאד, שהיו חיוניים לצבא הגרמני. רזיאל אף החליט, למגינת לבם של חבריו, לעמוד בראשה של היחידה, בת ארבעה אנשים שכללה את יעקב מרידור, יעקב סיקא אהרוני ויעקב טרזי[4]. הוא אף סבר שיוכל להקים תאים של האצ"ל בקרב יהודי עיראק. היחידה יצאה לפעולת האצ"ל בעיראק ב-17 במאי 1941 משדה התעופה הצבאי בתל נוף, ונחתה בשדה התעופה בחבניה, שבעיראק. בהגיעם שונתה התוכנית, והם קיבלו משימת מודיעין לקראת כיבוש העיר פלוג'ה. בפעולה זו נהרג רזיאל, ב-20 במאי, ביחד עם קצין בריטי מלווה, מהפצצה של מטוס גרמני[5][6], והוא בן 30. נסים כהן שנשאר בארץ ישראל החליפו כמפקד האצ"ל, אולם לאחר זמן קצר המליץ כהן על חברו יעקב מרידור, שיעמוד בראש הארגון. בסיכון חיים ובהצלחה, השלימו יעקב סיקא אהרוני ויעקב טרזי את הפעולה.
רזיאל נטמן על ידי הבריטים בעיראק, בבית עלמין צבאי בחבניה[7]. על מצבתו נכתב השם 'בן משה'. בני משפחתו ומשרד החוץ עשו מאמצים רבים להביא את ארונו לקבר ישראל, כולל ביקור אישי של אלמנתו בעיראק[8], אולם רק בשנת 1955 הסכימה ממשלת עיראק לאפשר לבריטים להוציא את הארון מארצם, בתנאי שלא יובא לקבורה בישראל, אלא בקפריסין, שהייתה אז מושבה בריטית.
יום מותו, כ"ג באייר, נקבע על ידי מנחם בגין בשנת תש"ו כיום התייחדות עם כל חללי האצ"ל[12].
ב-2021, 80 שנה לאחר שרזיאל נהרג, קיבל באופן אקראי, בן משפחתו הפרופ' אריה נאור, מצבת עץ עם כיתוב זהה לזה שהיה על המצבה בקפריסין. המצבה הועברה למכון ז'בוטינסקי לבדיקה, וכך נמצאו מסמכים שונים הנוגעים לקבורתו של רזיאל בעיראק, בקפריסין ובישראל[8].
בנו
כאשר רזיאל נהרג, רעייתו שושנה לא ידעה כי היא בהיריון. התינוק שנולד נקרא דוד על שם אביו, אך הוא נפטר בבית החולים. הוא נטמן בהר הזיתים ולימים התברר שקברו נהרס בתקופת השלטון הירדני[13].
ב- 23 באפריל1978, דאר ישראל הנפיק סדרה של 5 בולי דאר שעליהם מופיעים דיוקנם של אישים מן ההיסטוריה המודרנית של ישראל. אחד מהבולים האלה הוקדש להנצחת זכרו של דוד רזיאל. על השובל של הבול הופיעה הכיתובית: " 30 שנה לעצמאות ישראל ". האמן צבי נרקיס עיצב את הבול. דאר ישראל מכר 1,499,000 של בול זה עד להפסקת המכירה.[14]