Kleist is tydens die laaste dae van Case Blue, die Duitse someraanval in 1942 in die suide van Rusland, as opperbevelvoerder van Leërgroep A aangestel. Sy meningsverskille met Hitler oor strategiese besluite het gelei tot sy ontslag in Maart 1944 ná die Duitse nederlaag in die regterbankse Oekraïne.
Na die oorlog is Kleist uitgelewer aan die Sowjetunie waar hy tot 25 jaar gevangenisstraf gevonnis is vir oorlogsmisdade; hy is in die tronk oorlede.