在1918年,赫拉西门科加入红军,在俄罗斯内战期间,他在北高加索和俄罗斯南部战斗. 1920年,赫拉西门科加入苏联共产党,并于1922年完成红军指挥人员课程. 1927年,赫拉西门科还毕业于明斯克的联合军事学校,并在1931年毕业于M. V. Frunze军事学院. 1937年,赫拉西门科被任命为第八步枪兵团的指挥官. 1938年,他成为基辅特别军事区 (见基辅军事区) 的副司令. 在第二次世界大战期间,1940年7月,赫拉西门科被任命为伏尔加军事区司令. 在那个时候他被提升为中将. 1940年,在乔治·朱科夫的指挥下,参加了入侵罗马尼亚的行动.
作为第五军的指挥官.