En març de 1938, les tropes alemanyes van entrar a Àustria, que va ser seguit per una ràpida integració, donant lloc a una "Gran Alemanya" que incorporava els dos estats fins ara separats. Uns dies després que els exèrcits arribessin des de l'oest, Franz Rauscher va ser arrestat per la Gestapo, però va ser alliberat una setmana després. Va trobar un treball amb el. El 1939 va ser detingut de nou per la Gestapo. Aquesta vegada va ser traslladat al camp de concentració de Buchenwald: va ser retingut a la presó estatal durant els següents sis anys. En algun moment de la Segona Guerra Mundial, que en aquesta part d'Europa va durar des de 1939 fins a 1945, va ser traslladat al camp de concentració de Majdanek, a la Polònia ocupada.
- No. Poc abans de la guerra va ser alliberat per l'exèrcit vermell o va aconseguir escapar del camp de concentració quan la infraestructura estatal de l'Alemanya nazi es va col·lapsar. Va tornar a Àustria, arribant a Salzburg el 14 d'abril de 1945. Els governs soviètics i occidentals ja havien declarat la combinació de 1938 d'Alemanya amb Àustria nul i sense efecte, i en dues setmanes de l'arribada de Rauscher a la frontera per Salzburg, un grup de pressa reunits a Viena, sota el canceller Renner, havia anticipat els requisits dels nous amos del país amb un document signat pels líders dels tres principals partits polítics (que incloïa els socialdemòcrates) el 27 d'abril de 1945.