Lokakuussa 1943 Gretško nimitettiin Voronežin rintaman apulaiskomentajaksi,[1] ja hän auttoi Kiovan takaisinvaltauksessa.[2] Joulukuusta 1943 aina sodan loppuun hän komensi 1. kaartinarmeijaa, joka eteni UkrainastaTšekkoslovakiaan. Sodan päätyttyä vuonna 1945 hänet nimitettiin Kiovan sotilaspiirin komentajaksi.[2][1] Gretško oli vuosina 1953–1957 Itä-Saksaan sijoitettujen Neuvostoliiton miehitysjoukkojen komentaja, ja hän oli vastuussa vuoden 1953 Itä-Berliinin kansannousun tukahduttamisesta.[2] Hän sai vuonna 1955 Neuvostoliiton marsalkan arvon.[1] Marraskuussa 1957 hänet nimitettiin Neuvostoliiton apulaispuolustusministeriksi ja samalla maajoukkojen ylipäälliköksi. Vuodesta 1960 hän oli kaikkien Varsovan liiton joukkojen yhteinen ylipäällikkö.[2][1] Hänet valittiin vuonna 1952 NKP:n keskuskomitean ehdokasjäseneksi ja vuonna 1961 täysjäseneksi.[4]