1941 júniusában, a Barbarossa hadművelet elindításával, Kleist vezette az 1. páncélos csoportot a déli hadseregcsoport részeként, amelynek feladata volt Moldávia és Ukrajna elfoglalása, és sikert aratott az invázió kezdeti szakaszában, mélyre hatolva Ukrajnába. Az 1. páncélos csoport áttörte a Sztálin-vonalot, majd legyőzte a szovjet 5. és 6. hadsereg öt gépesített hadtestét a Brody-i csatában.
1941. június 23-30. 1941 júliusában, az Uman-i csata során az 1. páncélos csoport áttörte a szovjet déli front vonalát, ami a szovjet 6. és 12. hadseregek körbevétele és megsemmisítése a Uman városától délkeletre (a mai Cserkaszyi Oblastban). Az első kijevi csata során 1941 augusztusában és szeptemberében az 1. páncélos csoport északi irányba fordult a közép-ukrán területről, a 2. páncélos csoport dél felé haladva Smolenskból, ami a teljes szovjet délnyugati fronton keletre Kijev körülvétele és megsemmisítése vezetett, több mint 600 000 veszteséget okozva a Vörös Hadseregnek. A hadjárat azonban költséges volt, ekkor a német erőknek csak a fele volt a harckocsikból, mint három hónappal korábban.