Herberger joutui valmentamaan uutta "suuren Saksan" joukkuetta (mukaan lukien nyt liitetty Itävalta), mikä tarkoitti, että hänen täytyi ottaa mukaan pelaajia hiljattain lakkautuneesta Itävallan joukkueesta. Suosituin saksalainen joukkue, joka oli nyt heikentynyt tuntemattomien itävaltalaisten lisäysten takia, pudotettiin heti Sveitsin edessä vuoden 1938 MM-kisojen ensimmäisessä erässä.
Saksan huonoin suoritus MM-kisoissa tähän mennessä. Toisen maailmansodan ja sen jälkeisten Saksaa vastaan kohdistettujen pakotteiden vuoksi joukkue ei päässyt kansainväliseen jalkapalloon.