Het bataljon werd geactiveerd op 15 december 1941 bij Fort Benning. Het werd naar Engeland gestuurd en uitgerust met de M10 tank destroyer. De 654e landde op Omaha Beach op 11 juli 1944 om te vechten in de Normandie-campagne en werd de volgende dag in gevecht gestuurd in de buurt van Fallot. In augustus vocht het bij Mortain tijdens Operatie Cobra, de geallieerde uitbraak uit Normandië. Het ging toen vooruit.
Over Frankrijk richting Nancy, vechtend langs de Siegfriedlijn en de Saar oversteken begin december. Nadat het Duitse tegenaanval in de Slag om de Ardennen was begonnen, werd het bataljon op 21 december naar de Ardennen-sector ingezet. In januari 1945, nadat de tegenaanval was afgeweerd, trok het 654e terug naar het zuiden naar het gebied van Metz. In februari keerde het terug naar België om de M36 tank destroyer te ontvangen. Het bataljon werd teruggestuurd in de strijd in de West-geallieerde invasie van Duitsland, vechtend in het offensief over de rivier de Roer en over de Rijn op 24 maart. Het voerde zich naar Tangerhütte in Duitsland, waar het bleef tot het begin van mei na de Duitse capitulatie militaire overheidsopdrachten op zich nam. In Europa was het bataljon verbonden aan de 5th Infantry Division, de 30th Infantry Division, de 35th Infantry Division en de 75th Infantry Division. Het bataljon keerde terug naar de Verenigde Staten en werd op 13 november 1945 inactivated in Camp Patrick Henry, Virginia.