Dokonči nasledujúcu vetu: Kempf vstúpil do cisárskej nemeckej armády v roku 1905; po prvej svetovej vojne slúžil v "Reichswehr" a neskôr v "Wehrmacht". V októbri 1937 Kempf prevzal velenie novovytvorenej 4. pancernej brigády; v januári 1939 bol povýšený na "generálmajora". Na začiatku druhej svetovej vojny v Európe sa zúčastnil na invázii do Poľska ako veliteľ pancierovej divízie Kempf, ktorá bola tiež známa ako "Panzerverband Ostpreußen" (Panzer Group East Prussia) 3. armády pod Georgom von Küchlerom. Ako veliteľ divízie prijal kapituláciu pevnosti Zakroczym, po ktorej nasledoval masakr v Zakroczym, na konci vojny.
Bitka pri Modline. Divízia sa vrátila do Východného Pruska na konci poľskej kampane a Kempf bol menovaný veliteľom 1. ľahkej divízie, premenovanej na 6. tankovú divíziu, 18. októbra 1939.