Prima del 1949, Xie fu commissario politico nella 4ª colonna della 2ª Armata, servendo quindi direttamente sotto Deng Xiaoping, commissario politico della 2ª Armata. Partecipò alla Campagna Huaihai fra il 1948 e il 1949 come commissario politico della 41ª Divisione.
Dopo la nascita della Repubblica Popolare Cinese, Xie divenne commissario politico della 4ª Armata. Allo stesso tempo servì anche sotto il generale Chen Xilian come vicecommissario politico della 3ª Armata.
Il 1967 vide un notevole rafforzamento dell'influenza di Xie Fuzhi. Divenuto membro del Comitato rivoluzionario di Pechino, divenne poco dopo sindaco della capitale cinese e segretario del Comitato di Partito locale. Il IX Congresso del Partito (1969) lo confermò a queste cariche e lo promosse a membro effettivo del Politburo.
Nel luglio 1967, Xie giocò un ruolo fondamentale per evitare che il generale Chen Zaidao, comandante di un gruppo di guardie rosse particolarmente estremiste, prendesse il controllo di Wuhan combattendo la Centrale generale dei lavoratori, che aveva la maggioranza nel Comitato Rivoluzionario locale. Xie e Wang Li vennero inviati dal primo ministro Zhou Enlai a convincere Chen Zaidao a consegnare le armi. Appena arrivati, il 20 luglio, i due vennero catturati dalle forze del generale Chen. Tuttavia, le forze dell'Esercito Popolare di Liberazione fedeli a Xie riuscirono ad arrestare Chen, mettendo fine alla crisi. Tornati a Pechino, Xie e Wang vennero accolti da una manifestazione di massa in Piazza Tienanmen il 25 luglio.
Durante il processo alla "Banda dei Quattro", anche Xie Fuzhi venne preso di mira da Deng Xiaoping e accusato postumo di essere uno dei responsabili degli eccessi della Rivoluzione Culturale e di essersi reso reo di "attività antipartito".
