A guerra ruso-xaponesa comezou o 8 de febreiro de 1904, mentres Sakharov estaba ao mando do 1o Corpo de Exército Siberiano, pero non viu combate ata que renunciou ao mando en abril de 1904. O 5 de abril de 1904, converteuse en had do cuartel xeral de campo do 1o Exército Manchuriano, participando na Batalla de Shaho.
en outubro de 1904. O 18 de outubro de 1904, converteuse en xefe de gabinete do comandante en xefe de todas as forzas terrestres e navais que operaban contra o Xapón, o xeneral Aleksey Kuropatkin. Realizou esas funcións ata o 17 de marzo de 1905, e foi galardoado coa Arma de Ouro pola valentía con diamantes o 26 de novembro de 1904. Foi membro do Comité de Alexandre para os Feridos do 17 de marzo de 1905 ao 3 de xaneiro de 1906, converténdose en comandante temporal do 17o Corpo de Exércitos o 24 de setembro de 1905, inmediatamente despois da guerra, mentres seguía servindo no comité.