Semjon Timošenko, akit a téli háború bukása után a Szovjetunió védelmi népi biztosává neveztek ki, és aki sürgősen szüksége volt tapasztalt tisztekre a gyorsan bővülő szovjet hadsereg parancsnoki állásainak betöltésére, visszaküldte Rokossovszkij-t az 5. lovas hadtest parancsnokságára ezredes rangban. Ezt követően az 5. lovas hadtest részt vett a Besszarábia megszállásában.
hamarosan tábornokfőnök rangjára emelték, és a 9. gépesített hadtest parancsnokságát adták neki, mint M.I. Potapov 5. hadseregének részét, Mikhail Kirponos parancsnoksága alatt a kijevi katonai régióban, amelyet később a délnyugati fronton neveztek át a Németországgal való ellenségeskedések kitörésekor.