Nel 1946 Gu fu nominato Comandante in Capo dell'esercito nazionalista e direttore della pacificazione di Zhengzhou e fu posto al comando degli attacchi contro le aree controllate dai comunisti nella provincia dello Shandong. Nel 1947 Gu perse l'importante Campagna Menglianggu in cui 74 divisioni indipendenti d'elite potenziate furono spazzate via dalle forze comuniste. Chiang Kai-shek lo sollevò per questo dal comando e lo nominò Capo di Stato maggiore.
A Taiwan
Nel marzo 1950 arrivò a Taiwan e qui fu nominato Ministro della Difesa e nel 1954 fu promosso a generale a quattro stelle. Nel 1956 Gu fu nominato segretario generale del Consiglio di Difesa nazionale; nel 1967 fu nominato Vicecapo del comitato consultivo strategico. Nel 1972 Gu divenne un consulente di Chiang Kai-shek e morì a Taipei il 17 gennaio 1987.