Wybuchła wojna we wrześniu 1939 roku i dla większości Paryżan nastąpiły niewielkie zmiany. Nie było to jednak doświadczeniem kilku tysięcy niemieckich uchodźców politycznych, którzy uciekli przed prześladowaniami, przeprowadzając się do Paryża. Leo Bauer był jednym z aresztowanych w Paryżu we wrześniu 1939. Był przetrzymywany w kilku obozach od tamtego czasu aż do zawieszenia broni między Francją a Niemcami.
czerwca 1940 roku. W lipcu 1940 roku udało mu się uciec do Szwajcarii z towarzyszem z partii. W Szwajcarii mieszkał nielegalnie pod nazwiskiem pracownika banku w Genewie i nazwiskiem "Paul-Eric Perret". Został informatorem/kontaktem Partii Komunistycznej ("Vertrauensmann") w Zachodniej Szwajcarii i brał udział w "pracach granicznych" na granicy francusko-szwajcarskiej.