Grindlay skráđi sig frá Boonville 8. september 1862 í ūriggja ára þjónustu í Bandalagshernum. Hann gekk í D-herflokk 146. New York-sveitarliðsins sem skipstjóri. Í maí og júní 1864 tók regimentinn þátt í herferð Ulysses S. Grant í Virginíu. Í Baráttu í óbyggðinni fyrstu vikuna í maí varð 146 herflokkurinn fyrir miklum mannfallum. Bæði hershöfðingi og næstkomandi voru drepnir í hernað og Grindlay varð æðsti yfirmaður. Hann tók við stjórn herflokksins og leiddi hann í gegnum bardaga við Spotsylvania Court House sem strax fylgdi. Grindlay var kynntur sem hershöfðingi og leiddi 146. herflokkinn í restina af herferðinni, þar á meðal bardaga við North Anna, Totopotomoy Creek
, og Cold Harbor.