בהיותו עורך דין, סייע עבד אל-האדי ליהושע חנקין ברכישת אדמות ואדי חווארת (עמק חפר), שהייתה כרוכה בפינוי אריסים, אולם במקביל להתנהלות הפרשה, דרש מהנציב העליון לאסור על מכירת קרקעות ליהודים.[4]
ב-1922 נבחר לראשונה לוועד הפועל הערבי, בוועידה הפלסטינית החמישית, כנציג ג'נין. ב-1923 נבחר שוב בוועידה השישית, וב-1928 נבחר שוב בוועידה השביעית (ייצג את בית שאן), בה נבחר גם כמזכיר הוועידה.[5]
ב-22 באוגוסט 1929, עם תחילתם של מאורעות תרפ"ט, השתתף יחד עם ג'מאל אל-חוסייני בפגישה בביתו של המזכיר הראשי לממשלת המנדט, הארי לוק, עם שלושה נציגי ההסתדרות הציונית ובהם יצחק בן-צבי, אולם הצדדים לא הצליחו להגיע להסכם על הודעת הרגעה משותפת לקראת תפילות יום שישי למחרת. לוק לחץ עליהם להודיע לפחות שנפגשו. היהודים הסכימו, אולם הערבים סירבו.[6]
ב-4 באוגוסט1932 ייסד את מפלגת אל-איסתקלאל, כמפלגה לאומית חילונית של צעירים שמאסו בהתנהלות האיטית של החוסיינים. אל-האדי היה מנהיגה הבלתי מעורער של המפלגה לכל אורך שנותיה.
באוגוסט 1933, כשביקרה המפלגה את אמין אל-חוסייני על שיתוף הפעולה שלו עם הממשלה, תקפו אותה החוסיינים והמועצה המוסלמית העליונה פיטרה את עבד אל-האדי מתפקידו כיועצה המשפטי. החוסיינים החלו לגנות אותו על חלקו בטיפול המשפטי בעסקת מכירת אדמות ואדי אל-חוארת' ליהודים בשנים 1928–1929.[7]
אולם מעמדו לא נפגע לגמרי ועם הווצרו של הוועד הערבי העליון בשנת 1936, כיהן בו עבד אל-האדי כנציג מפלגת אל-איסתקלאל כמזכיר הוועד.
כשנידונה שאלת שביתת פקידי הממשלה, הלשין עליו אמין אל-חוסייני, שמונה לתפקידיו על יד הממשלה ולכן רצה בכל מחיר למנוע החלטה על שביתה כזו, כי הוא מסית את עובדי הממשלה לשבות. ב-7 ביוני עצרה הממשלה את עבד אל-האדי וכעבור שבועיים גם את יורשו בתפקיד, עיזאת דראוזה.[8]
עמדתו כלפי היישוב הייתה מורכבת. הוא לא ראה בתנועה הציונית כאויב בפני עצמו, אלא כזרוע של אימפריאליזםבריטי. לדידו, ובניגוד בולט לחוסיינים, היה צורך ערבי להילחם באימפריאליזם הבריטי המפלג את העולם הערבי ולא להשחית משאבים על התמודדות עם הציונים. הוא קיים מפגשים עם אישים ביישוב, בהם חיים מרגליות קלווריסקי.[9] בשנת 1934 נפגש בביתו של יהודה לייב מאגנס עם דוד בן-גוריון.[10]
בשנים 1936–1937 נפגש עם ראש המחלקה המדינית של הסוכנות היהודית, משה שרתוק.[11]
בנאומו לפני חברי ועדת פיל, טען כי פלסטין אינה ישות מדינית נפרדת, וכי זו המצאה ציונית. פלסטין היא חלק בלתי נפרד מסוריה הגדולה ומהעולם הערבי שצריך להשתחרר כולו מעול הבריטים ולהיות תחת שלטון ערבי.
עקב מעורבותו הפעילה בארגון המרד הערבי הושם בשנת 1937 במעצר על ידי שלטונות המנדט בעוג'ה אל-חפיר ולאחר מכן הוגלה למצרים. רק בשנת 1941, לאחר שהתחייב לא לעסוק בפוליטיקה פעילה, הותר לו לשוב. אולם, על אף התחייבותו חזר במרץ אל לב הפעילות בראשות מפלגת אל-איסתקלאל ובוועד הערבי העליון המחודש. במסגרת זו פתח משרד אינטרסים בלונדון. נתן אלתרמן הלעיג על יוזמה זו בשיר שכתב ב-24 באוגוסט1945 במסגרת הטור השביעי, השיר נכתב כביכול כמכתב מהארון א-רשיד על עבד אל-האדי: "אגדות אלף לילה טיפחתי, אך בלונדון משרד לא פתחתי, כי חשקתי בזאת בבגדאד המשרד הוא בסדר, עווני, אך השקר מופרז בו קצת, עווני, ומופרזת מעט חוצפתו".