De case 300 cadetes da súa clase, e a pesar de completar todas as partes do seu curso con éxito, Gary foi o único que non foi comisariado como oficial. Cría que o establecemento militar desconfiaba do que consideraban estranxeiro e xudeu. Entrenamento en avións Potez 25 e Goëland Léo-20, e con 250 horas de voo, só despois de tres meses de atraso foi feito sarxento o 1 de febreiro de 1940. Ferido lixeiramente o 13 de xuño de 1940 nun Bloch MB.210, foi decepcionado co armisticio
Despois de escoitar a radio do xeneral de Gaulle, decidiu ir a Inglaterra. Despois de intentos fallidos, voou a Argel desde Saint-Laurent-de-la-Salanque nun Potez. Foi nomeado adxuntante ao unirse aos franceses libres e servir en Bristol Blenheims, viu acción en toda África e foi ascendido a segundo tenente. Volveu a Inglaterra para adestrarse no Boston IIIs. O 25 de xaneiro de 1944, o seu piloto quedou cego, aínda que temporalmente, e Gary falou con el para o obxectivo do bombardeo e volver a casa, o terceiro aterraxe foi exitoso. Esta e a posterior entrevista da BBC e o artigo do xornal Evening Standard foron unha parte importante da súa carreira. Terminou a guerra como capitán nas oficinas de Londres das Forzas Aéreas da Francia Libre. Como observador-bombardeiro no "Groupe de bombardement Lorraine" (Esquadrón 342 da RAF), participou en máis de 25 salidas exitosas, rexistrando máis de 65 horas de tempo de voo. Durante este tempo, cambiou o seu nome a Romain Gary. Foi condecorado pola súa valentía na guerra, recibindo moitas medallas e honras, incluíndo o Compagnon de la Libération e o comandante da Lexión de Honra. En 1945 publicou a súa primeira novela, "Education européenne". Inmediatamente despois do seu servizo na guerra, traballou no servizo diplomático francés en Bulgaria e Suíza. En 1952 converteuse no secretario da delegación francesa nas Nacións Unidas. En 1956, converteuse en Cónsul Xeral en Los Ángeles e coñeceu a Hollywood.