W zimie 1942/43 Fretter-Pico dowodził dywizją armii Fretter-Pico (niem. "Armeeabteilung Fretter-Pico"), która została tymczasowo utworzona z jego korpusu, a następnie ponownie XXX. Korpus wojskowy. Na początku lipca 1944 roku został na krótko przeniesiony do rezerwy Führera, aby w połowie miesiąca przejąć dowództwo nad 6. armią, która została zniszczona nieco później podczas wojny radzieckiej.
Operacja Jassy-Kishinev i potem musiała zostać zreorganizowana. Ze względu na podporządkowanie węgierskiej II i III Armii tymczasowo nazywano ją Grupą Armii Fretter-Pico (niem. "Armeegruppe Fretter-Pico"). Formacja ta brała udział w bitwie pod Debrecenem, od 6 do 29 października 1944 roku. 23 grudnia 1944 r. zrezygnował z dowództwa i został z. b. V. Najwyższego Dowództwa Armii. W dniu 25 marca 1945 r. został sędzią w sądzie wojennym w Torgau przeciwko generałowi der Panzertruppe Walterowi Friesowi. Wbrew wyraźnemu rozkazowi Hitlera, Fries zrezygnował z miasta Warszawa, które zostało uznane za twierdzę (niem. "Festung"), i wycofał niemieckie wojska. Proces zakończył się 30 marca 1945 r. w wyniku uniewinnienia Friesa, a Fretter-Pico został mianowany dowódcą IX okręgu wojskowego, z siedzibą w Kassel (niemiecki: ""), będąc jego ostatnim dowódcą. Tam został wzięty do niewoli przez armię amerykańską 22 kwietnia 1945 r. Został uwolniony w połowie 1947 r.