נולד למשפחה פרוסית אריסטוקרטית עם היסטוריה ארוכה של שירות צבאי, Choltitz הצטרף לצבא בגיל צעיר וראה שירות בחזית המערבית במהלך מלחמת העולם הראשונה (1914-1918). הוא עלה לדרגת "לוטננט" עד סוף המלחמה והיה פעיל בתקופת הבין-מלחמתית ועזר לגרמניה לבנות מחדש את כוחותיה המזוינים. בספטמבר 1939, במהלך הפלישה לפולין בתחילת מלחמת העולם השנייה, הוא שירת בקבוצת הצבא הדרומית של גרד פון רונדשטט. במאי 1940, Choltitz השתתף בקרב רוטרדם
, ביצוע נחיתה אווירית ו לתפוס כמה גשרים המפתח של העיר.