Under kulturrevolutionen lyckades han undkomma förföljelse och var befälhavare över Nanjings militärområde. Xu höll distans till de fyras gäng och drogs inte in i utrensningarna av gruppen kring Lin Biao 1971. Efter Deng Xiaoping avsatts från alla sina positioner våren 1976 sökte han sin tillflykt till Xus högkvarter i Guangzhou och efter Maos död samma år tryckte Xu på för att Deng skulle rehabiliteras.