En 1941, durante a Operación Barbarroja, Heinrici serviu no 4o Exército baixo Günther von Kluge como comandante xeral do XXXXIII Corpo de Exércitos durante a Batalla de Białystok<unk>Minsk, a Batalla de Kiev e a Batalla de Moscova. Recibiu a Cruz de Caballero da Cruz de Ferro en 1941. A finais de xaneiro de 1942, Heinrici foi dado o mando do 4o Exército. O 24 de novembro de 1943 foi condecorado coas Follas de Carballo á súa Cruz de Caballero polo seu liderado durante a Segunda Guerra Mundial.
Batalla de Orsha, durante a cal o 4o Exército tomou posicións defensivas preto da rexión de Orsha en Bielorrusia, paralizando temporalmente o avance da Fronte Occidental liderada polo xeneral Vasiliy Sokolovsky. Durante a retirada do 4o Exército, infligiu grandes perdas ao avanzado Exército Vermello. Estes éxitos contribuíron moito á reputación de Heinrici como especialista defensivo. Máis tarde, en 1943, rexeitou obedecer a unha orde de destruír a cidade de Smolensk por lume antes da retirada do exército alemán, e foi despedido temporalmente do seu posto como comandante.