מוסטפא בארזאני היה בנו החמישי של השייח' מוחמד בארזאני ונכדו של השייח' סעיד בארזאני.
בארזאני קיבל את חינוכו היסודי בבארזאן, המשיך ללמוד בטורקיה והשלים לימודי דת בסולימאניה. בשנת 1931 החל את פעילותו במרד הכורדי יחד עם אחיו אחמד בארזאני. ב-1935 דוכא המרד הכורדי על ידי המשטר בבגדאד, והוא גורש לסולימאניה. בארזאני ברח מסולימאניה ב-1942 וחידש את מאבקו לעצמאות הכורדים בשנת 1943 כאשר תקף נקודת משטרה בפנדרו. לאחר שגם מרידה זו דוכאה ביד קשה על ידי המשטר, הוא נמלט עם כאלף מתומכיו לאיראן, שם התגורר ברפובליקת מהבאד, הרפובליקה האוטונומית הכורדית שהוקמה בחסות ברית המועצות בכורדיסטן האיראנית ב-1946. כשהתפרקה רפובליקת מהבאד באותה שנה, נמלט עם תומכיו לברית המועצות, תחילה לבאקו, אחר כך לטשקנט, ולבסוף למוסקבה. בעקבות הפיכת עבד אל-כרים קאסם ב-1958, קיבל בארזאני אישור לחזור לעיראק. הוא חזר לבארזאן והחל להניח תשתית לפעילות נגד המשטר העיראקי. ב-1963 החל ראש המוסד הישראלי דאז, מאיר עמית, להדק את הקשרים החשאיים עם בארזאני, ובמשך כעשר שנים העניקה ישראל לכורדים בעיראק סיוע צבאי. לאחר חתימת הסכם אלג'יר ב-1975 בין השאה האיראני מוחמד רזה פהלווי לסדאם חוסיין מהצמרת העיראקית, הסכם שהסדיר את מחלוקת הגבולות בין המדינות והבטיח את הפסקת הסיוע האיראני למורדים הכורדים, דוכא המרד בתוך שבועיים.