Täytä seuraava lause: Venäjän ja Japanin sodan (1904<unk>1905) alussa Zarubaev nimitettiin neljännen Siperian armeijan korpuksen komentajaksi, joka koostui toisesta ja kolmannesta Siperian reservi-brigadista. Hän onnistui torjumaan japanilaisen kenraali Yasukata Okun hyökkäyksiä Tashihchiao-taistelussa, mutta kenraali Aleksey Kuropatkin määräsi hänet vetäytymään sen sijaan, että hän olisi jatkanut menestystään. Samoin Liaoyangin taistelussa hän onnistui pitämään asemansa Japanin toistuviin hyökkäyksiin, mutta Kuropatkin kieltäytyi jälleen vahvistamasta häntä ja määräsi hänet perääntymään. Seuraava
Shahon taistelussa hänen joukkonsa pidettiin suurelta osin reservissä, ja niitä käytettiin vahvistamaan linjaa, joka kattoi Kuropatkinin vetäytymisen. Mukdenin taistelun aikana Zarubaevin joukot pitivät asemansa kymmenen päivän ajan helmikuun 12-22 välisenä aikana. 23. helmikuuta Zarubaev komensi 4. Siperian armeijan ja 1. Siperian armeijan yhdistettyjä joukkoja. Tämä yhdistetty joukko kuitenkin peruttiin 25. helmikuuta, ja sen jälkeen kun Kuropatkin oli korvattu kenraali Nikolai Linevitšillä, Zarubaevista tehtiin väliaikainen Venäjän ensimmäisen Mantsurian armeijan komentaja.