Skribu daŭrigon por ĉi tiu paragrafo - Komence de la Rusa-Japana Milito (1904-1905), Zarubaev fariĝis komandanto de la Kvara Sibera Armea Trupo, kiu estis kunmetita de la Dua kaj Tria Sibera Rezerva Brigadoj. Li sukcese forpuŝis atakojn de japana generalo Yasukata Oku dum la Batalo de Tashihchiao, sed estis ordonita retiriĝi de generalo Aleksey Kuropatkin prefere ol sekvi sian sukceson. Simile, en la Batalo de Liaoyang, li sukcese tenis sian pozicion kontraŭ ripetaj japanaj atakoj, sed denove estis rifuzita plifortikigoj de Kuropatkin kaj ordonita retiriĝi. Ĉe la Batalo de Ŝaho
, liaj fortoj estis plejparte tenitaj en rezervo, kaj estis uzitaj por plifortikigi la linion kovranta la retiriĝon de Kuropatkin. Dum la Batalo de Mukden, la fortoj de Zarubaev tenis siajn poziciojn dum dek tagoj de 12-22 februaro. Ekde la 23-a de februaro, Zarubaev komandis kombinitan forton de la Kvara Sibera Armea Korpuso kaj la Unua Sibera Armea Korpuso. Tamen, tiu kombinita forto estis nuligita la 25an de februaro, kaj post kiam Kuropatkin estis anstataŭigita de generalo Nikolai Linevich, Zarubaev fariĝis provizora komandanto de la rusa Unua Manĉura Armeo.