Shaw skráði sig í Union Army í bandaríska borgarastyrjöldina, og gekk í lið A, 35. New York sjálfboðaliða infantry regiment sem einkaliði í júní 1861. Seinna var hann kynntur í liðsforingi og þjónaði þar til hann var rekinn út með restinni af herliði sínu í júní 1863. Shaw tók þátt í starfsemi regimentsins í Virginíu og Maryland, þar á meðal; byggingu á Fort Tillinghast og Fort Craig (haust 1861); varð- og varðstörf í og í kringum Falls Church, Virginia (veturinn 1861-1862); varð- og varðstörf í og í kringum Falmouth, Virginia (vorið 1862); bardaga við Rappahannock Station, White Sulphur Springs og Gainesville (sumarið 1862); Annar bardagur við Bull Run (ágúst 1862); Chantilly
(September 1862); Suðurfjall (September 1862); Antietam (September 1862); og Fredericksburg (desember 1862). Í janúar 1863 var regimentinu úthlutað til varðdeildar í Falmouth, og einnig var það í varð- og varðskiptum meðfram Aquia Creek járnbrautinni. Í maí yfirgaf reglmentin Maryland til New York svo það gæti verið safnað út.