De Kempf huet sech 1905 an d'Kaiserlech Däitsch Arméi ageschriwwen; no dem Éischte Weltkrich huet hien an der "Reichswehr" a spéider an der "Wehrmacht" gedéngt. Am Oktober 1937 huet de Kempf de Kommando vun der nei gegrënnter 4. Panzer Brigade iwwerholl; am Januar 1939 gouf hien zum "Generalmajor" gefördert. Um Ufank vum Zweete Weltkrich an Europa huet hien an der Invasioun op Polen als Kommandant vun der Panzer Division Kempf deelgeholl, déi och als "Panzerverband Ostpreußen" (Panzer Group Ostpreußen) vun der 3. Arméi ënner Georg von Küchler bekannt war. Als Divisiounskommandant krut hien d'Kapitularitéit vu Fort Zakroczym, déi vum Massaker zu Zakroczym gefollegt gouf, um Enn vun der
Schluecht vu Modlin. D'Divisioun ass um Enn vun der Polen-Kampagne zréck an Ostpreußen gaangen, a Kempf gouf den 18 Oktober 1939 zum Kommandant vun der 1st Light Division ernannt, ëmbenannt 6th Panzer Division.