Suuren isänmaallisen sodan alussa hän johti 7. mekaniikkaan liittyvän armeijan tykistöjoukkoja. Kazakov osallistui taisteluille Smolenskissa ja Moskovassa ja kehitti uusia menetelmiä panssarivaunujen torjuntaa varten, joita koko armeija omaksui. Heinäkuussa 1942 hänet nimitettiin Rokossovskin tykistökomentajaksi Bryansk-rintamalla. Hän työskenteli edelleen kenraalin kanssa Stalingradin, Donin, Keski- ja 1. Valko-Venäjän rintamilla. 17. marraskuuta 1942 hänestä tuli kenraaliluutnantti ja 18. syyskuuta 1943 hänestä tuli kenraalieversti. Kazakov oli yksi Kurskin puolustuslinjojen suunnittelijoista.
- Mitä? Hän osallistui alempaan Dneprin hyökkäykseen, Bagration-operaatioon ja Saksan sisäisiin taisteluihin. Kazakoville myönnettiin Neuvostoliiton sankari (mitta nro 5871) 6. huhtikuuta 1945.