A II. Hadtestet először az I. világháború előtt hozták létre. A II. világháborúban Franciaországért vívott hadjáratban harcolt 1940-ben, valamint a 1944/45-ös hadjáratokban
Dél-Franciaország, a Vosges-hegység, Alsace, és délnyugati Németország. A második világháború után sok éven át az Első Hadsereg alatt működött.