גורלו של אנדרס השתנה לאחר פלישת הנאצים לברית המועצות ב־22 ביוני1941. הסובייטים שחררו אותו מכלאו על מנת שיקים צבא פולני שיילחם לצדם[1][2]. אנדרס נתמנה למפקד צבא זה, ששמו הרשמי היה "הקורפוס הפולני השני" אך קיבל את הכינוי "צבא אנדרס". חיילים וקצינים פולניים ששוחררו ממאסרם במחנות הכפיה בסיביר, קזחסטן ואזורים אחרים בברית המועצות הצטרפו לצבא אנדרס.
כשסקר אנדרס לראשונה את גייסותיו, הוא מצא אנשים מזי רעב ועטויים בבלויי סחבות. מתוך כמיליון וחצי פולנים שגורשו לברית המועצות ממזרח פולין עם תפיסתה על ידי הסובייטים בשנת 1939 נותרו בחיים מאות אלפים ספורים בלבד. אנדרס קומם את אנשיו והפך אותם לצבא מאורגן. פליטים פולניים בלתי לוחמים, נשים, ילדים וזקנים, נלוו לצבא אנדרס, ומזונם ניתן להם ממנות הקרב של החיילים.
משא ומתן בין סטלין, צ'רצ'יל והכוחות הפולניים, איפשר לצבא אנדרס שמנה כ־100,000 חיילים ופליטים אזרחיים לצדם, לעבור לפרס שהייתה באותה עת נתונה להשפעה בריטית. בפרס גיבש ואימן אנדרס את צבאו. בעלות הברית הועידו לצבא אנדרס את המשימה להילחם בחזית איטליה. לאחר מספר חודשים בפרס יצא צבא אנדרס לכיוון המזרח התיכון בדרכו לחזית האיטלקית.
צבא אנדרס הפך להיות כוח קרבי רציני. בשנת 1944 הגיע לאיטליה, בה זכה לניצחונו הגדול בקרב על מנזר מונטה קאסינו ב־17-18 במאי 1944. אנדרס כבש את המנזר, שהפך למבצר מוגן היטב, לאחר ששלושה ניסיונות קודמים של בעלות הברית לכבוש אותו כשלו. בהמשך השתתף צבא אנדרס בקרבות בחוף הים האדריאטי ובטיהור עמק הנהר פו, ושחרר את הערים אנקונה ובולוניה. אנדרס קיבל אזרחות של כבוד בשתי הערים כאות הוקרה על פועלו.
אחרית ימיו
בפברואר 1945, מונה אנדרס למפקד העליון של הצבא הפולני על ידי הממשלה הפולנית הגולה, במקום הגנרל תדיאוש בור קומורובסקי שהיה בשבי הגרמני[3]. אנדרס נאבק ביחד עם הממשלה הפולנית הגולה נגד ממשלת לובלין הפרו-סובייטית[4], אך ללא הועיל. בתחילת 1946 אף נטען שאנדרס ביקש לצאת למלחמה כדי לשחרר את פולין מידי הקומוניסטים[5][6]. בספטמבר 1946 שללה הממשלה הפולנית את האזרחות הפולנית של אנדרס בגלל שסירב לחזור לפולין הקומוניסטית, עודד את חייליו שלא לשוב לפולין ולטענת הממשלה הפולנית הוא הוביל פעולות חבלה בפולין[7].
לאחר תום המלחמה נשאר אנדרס לכל חייו בבריטניה, למרות שמעולם לא קיבל אזרחות בריטית. הוא התנגד לממשלת פולין הקומוניסטית, ראה עצמו כגולה פוליטי, והיה ממנהיגי הממשלה הפולנית הגולה. ב-1954, לאחר ששבע שנות כהונת ה"נשיא" הגולה אוגוסט זלסקי תמו, הוביל קבוצה שהקימה מועצה של שלושה אשר טענה לנטילת סמכויות הנשיא.