Semyon Timoșenko, care fusese numit Comisarul Poporului pentru Apărare al Uniunii Sovietice după dezastrul Războiului de Iarnă și avea nevoie urgentă de ofițeri cu experiență pentru a ocupa posturile de comandă pentru armata sovietică în expansiune rapidă, l-a readus pe Rokossovsky la comanda Corpului 5 de cavalerie cu gradul de colonel. Ulterior, Corpul de Cavalerie 5 a participat la ocuparea Basarabiei.
În curând a fost promovat la gradul de general-maior și i s-a acordat comanda Corpului al 9-lea mecanizat, ca parte a Armatei a 5-a a lui MI Potapov, sub comanda lui Mihail Kirponos, comandant al Regiunii Militare de la Kiev, care mai târziu va fi redenumit Frontul de Sud-Vest la izbucnirea ostilităților cu Germania.