Rendulic foi chamado para o exército alemán, a Wehrmacht, en 1938, despois da anexión de Austria a Alemaña. Comandou a 14a División de Infantería (23 de xuño - 10 de outubro de 1940); a 52a División de Infantería (1940 - 1942); e o XXXV Corpo (1942 - 1943), co que participou na Batalla de Kursk.
- Non. De 1943 a 1944, Rendulic comandou o 2o Exército Panzer durante a Segunda Guerra Mundial en Iugoslavia. A principios de 1944, o canciller alemán Adolf Hitler ordenou a Rendulic que elaborase un plan para capturar ao líder partisano iugoslavo Josip Broz Tito. Na incursión resultante en Drvar o 25 de maio de 1944, os paracaidistas alemáns asaltaron o cuartel xeral partidista en Drvar (Bosnia occidental) á procura de Tito, pero finalmente non o capturaron, sufrindo grandes baixas.