Í apríl 1944 afhenti hann yfirstjórn 2. herdeildar til Edward H. Brooks herforingja og var útnefndur yfirmaður herforingja þriðja herdeildarinnar. Hann starfaði aftur undir yfirmanni George Patton. Gaffey starfaði í þessu hlutverki í gegnum
herferð í Vestur-Evrópu, frá því að Þriðji herinn lenti í Frakklandi í júlí 1944 og lék stórt hlutverk í aðgerðinni Cobra og bardaganum við Falaise Gap, í kjölfarið á framgangi bandamanna frá París til Rínar og bardaganum við Metz. Í desember 1944 tók hann við af hershöfðingi John Shirley Wood sem hershöfðingi í 4. herdeild, sem lék stórt hlutverk í Bulge-baráttu, og hjálpaði til við að brjóta umburðinn á Bastogne. Hann var áfram í stjórn deildarinnar til mars 1945, í lok stríðsins í Evrópu, þegar hann varð CG af XXIII liði. Hann gaf af sér stjórn á XXIII liði í september, þegar stríðið lauk vegna uppgjörs Japan.