Escriba unha continuación para este parágrafo - Ao comezo da guerra ruso-xaponesa (1904-1905), Zarubaev foi nomeado comandante do Cuarto Cuerpo de Exército Siberiano, que estaba composto polas Segunda e Terceira Brigadas de Reserva Siberiana. Repeliu con éxito os ataques do xeneral xaponés Yasukata Oku durante a Batalla de Tashihchiao, pero o xeneral Aleksey Kuropatkin ordenoulle a retirada en vez de seguir o seu éxito. Do mesmo xeito, na Batalla de Liaoyang, mantivo a súa posición con éxito contra repetidos ataques xaponeses, pero Kuropatkin volveu rexeitar refuerzos e ordenoulle retirarse. Na batalla de Shaho
, as súas forzas foron mantidas en gran parte en reserva, e foron usadas para reforzar a liña que cubría a retirada de Kuropatkin. Durante a Batalla de Mukden, as forzas de Zarubaev mantiveron as súas posicións durante dez días do 12 ao 22 de febreiro. A partir do 23 de febreiro, Zarubaev comandou unha forza combinada do Cuarto Corpo de Exército Siberiano e do Primeiro Corpo de Exército Siberiano. Con todo, esta forza combinada foi cancelada o 25 de febreiro, e despois de que Kuropatkin fora substituído polo xeneral Nikolai Linevich, Zarubaev foi nomeado comandante temporal do Primeiro Exército Manchuriano ruso.