Nacido nunha familia aristocrática prusiana con unha longa historia de servizo militar, Choltitz uniuse ao exército a unha idade temperá e serviu na Fronte Occidental durante a Primeira Guerra Mundial (1914-1918). Alcanzou o rango de "Teniente" ao final da guerra e estivo activo no período de entreguerras axudando a Alemaña a reconstruír as súas forzas armadas. En setembro de 1939, durante a invasión de Polonia ao comezo da Segunda Guerra Mundial, estaba servindo no Grupo de Exércitos Sur de Gerd von Rundstedt. En maio de 1940, Choltitz participou na batalla de Rotterdam.
, facendo un aterraxe aérea e tomando algunhas das pontes clave da cidade.