Andika mwendelezo wa aya hii - Mwana wa mchungaji wa Jeshi la Marekani, Groves aliishi katika vituo mbalimbali vya Jeshi wakati wa utoto wake. Katika 1918, alihitimu wa nne katika darasa lake katika Chuo cha Kijeshi cha Marekani katika West Point na aliteuliwa katika Jeshi la Marekani la Kikosi cha Wahandisi. Mnamo 1929, alienda Nikaragua kama sehemu ya safari ya kufanya utafiti kwa ajili ya Inter-Oceanic Nicaragua Canal. Baada ya tetemeko la nchi la 1931
, Groves alichukua mfumo wa usambazaji wa maji wa Managua, ambayo alipewa tuzo ya Medali ya Rais wa Merit ya Nikaragua. Alihudhuria Shule ya Kamanda na Mkuu wa Wafanyakazi huko Fort Leavenworth, Kansas, mnamo 1935 na 1936; na Chuo cha Vita cha Jeshi mnamo 1938 na 1939, baada ya hapo alipelekwa kwa Mkuu wa Wafanyakazi wa Idara ya Vita. Groves alisitawisha "sifa ya kuwa mfanya kazi, dereva, na mtu anayeshikilia sana wajibu wake" na mwaka wa 1940 akawa msaidizi wa pekee wa ujenzi kwa Mkuu wa Idara ya Ujenzi, aliyepewa kazi ya kukagua maeneo ya ujenzi na kuangalia maendeleo yao. Mnamo Agosti 1941, alipewa mgawo wa kujenga jengo kubwa la ofisi kwa ajili ya wafanyakazi 40,000 wa Idara ya Vita ambalo hatimaye lingekuwa Pentagon.