Grindlay werd ingelijfd in Boonville op 8 september 1862 voor een dienstperiode van drie jaar in het leger van de Unie. Hij trad toe tot Compagnie D van de 146e New Yorkse Infanterie als kapitein. In mei en juni 1864 nam het regiment deel aan de Overland Campaign van generaal Ulysses S. Grant in Virginia. In de Slag om de Wildernis in de eerste week van mei, leed het 146e zware verliezen. Zowel de regimentcommandant als de tweede in bevel werden gedood in actie, waardoor Grindlay de meest senior officier bleef. Hij nam het bevel over het regiment en leidde het door de Slag bij Spotsylvania Court House die onmiddellijk volgde. Gepromoveerd tot majoor, leidde Grindlay de 146e voor de rest van de campagne, inclusief de veldslagen van North Anna, Totopotomoy Creek
, en Cold Harbor.