Mitterrand sau đó đăng ký nghĩa vụ quân sự từ năm 1937 tới năm 1939 tại trung đoàn bộ binh thuộc địa số 23. Năm 1938, ông trở thành người bạn thân của Georges Dayan, một người Do Thái theo chủ nghĩa xã hội, và cũng là người được ông cứu giú khỏi những hành động quá khích của phong trào bảo hoàng quốc gia chống Do Thái Action française. Tình bạn của ông với Dayan khiến Mitterrand bắt đầu nghi ngờ các lý tưởng quốc gia của mình. Khi thôi học luật, ông được gửi tới giới tuyến Maginot vào tháng 9 năm 1939, với cấp bậc trung sĩ (trung sĩ bộ binh), gần Montmédy. Ông đính hôn với Marie-Louise Terrasse (nghệ sĩ Catherine Langeais tương lai) tháng 5 năm 1940 (nhưng bà huỷ bỏ nó năm 1942).