Aunque la Shoah se desarrolló en todo su horror solo a principios de la década de 1940, mucho antes de eso ya estaba claro que la situación en Alemania solo empeoraría, especialmente para los judíos. Hacia el final de la década de 1930, los Olievenstein escaparon a Francia. En 1942, el gobierno títere francés estaba comenzando a reunir a los judíos en la mitad sur de Francia, donde la mayoría se había congregado para escapar de la Francia septentrional ocupada (aproximadamente el 50% de los judíos en la Francia metropolitana eran en ese momento refugiados de Alemania o de territorios recientemente invadidos por las fuerzas alemanas). Los que fueron reunidos fueron deportados a campos de exterminio en Alemania. Los Olievenstein, sin embargo, después de haber evitado el exterminio escapando de Alemania a Francia, ahora evitaron el exterminio por segunda vez cuando se negaron a cumplir con el requisito del gobierno de que los judíos debían identificarse siempre usando una estrella amarilla donde pudiera verse. Después de una infancia que le enseñó a ocultar su procedencia judía, después de la pesadilla terminó
La familia de Claude Olievenstein se estableció en París, ciudad que pronto amaría: "Ahora teníamos nuestro lugar en el mundo. Teníamos derecho a ser nosotros mismos, el 'problema judío' había dejado de existir". Fue en París donde Claude Olievenstein emprendió sus estudios en Psiquiatría. Cuando era joven se unió brevemente a los Jóvenes Comunistas, pero al final fue excluido. Se convirtió en uno de los líderes de la Unión de estudiantes judíos franceses: su identidad judía siempre fue muy importante para él.