Pasibaigus karui, Kazakovas vadovavo armijai iki 1946 m. rugpjūčio, dalyvavo
1945 m. Maskvos pergalės paradas. 1946 m. rugpjūčio mėn. jis buvo perkeltas į Kaukazo karinį rajoną, o 1947 m. vasario mėn. tapo jo štabo viršininku. Jis buvo atleistas iš pareigų dėl "netinkamo požiūrio į nacionalinių formacijų klausimus" rajone, buvo paskirtas Pietų Uralo karinio rajono pajėgų vadovo pavaduotoju. Tai pasirodė laikinas, nes 1950 m. Lapkričio mėn. Jis buvo paskirtas Odesos karinio rajono štabo viršininku ir 1953 m. Gegužės mėn. Uralo karinio rajono vadu. 1955 m. rugpjūčio mėn. paaukštintas į armijos generolą, 1956 m. sausio mėn. Kazakovas buvo paskirtas sausumos pajėgų vadovo pavaduotoju koviniam mokymui. Nuo 1960 m. gruodžio mėn. vadovavo Pietų pajėgų grupei Vengrijoje, o nuo 1960 m. spalio mėn. - Leningrado kariniam rajonui. 1965 m. lapkričio mėn. Kazakovas buvo paskirtas Varšuvos sutarties organizacijos sujungtų ginkluotųjų pajėgų jungtinio štabo viršininku ir tuo pat metu Generalinio štabo vadovo pirmuoju pavaduotoju. Tai buvo jo paskutinis aktyvus pareigas, nes 1968 m. rugpjūčio mėn. jis buvo faktiškai išėjęs į pensiją kaip Generalinių inspektorų grupės inspektorius- patarėjas. Kazakovas mirė 1979 m. gruodžio 25 d. Maskvoje ir buvo palaidotas Novodevičijų kapinėse.