Shaw terdaftar di Angkatan Darat Uni untuk Perang Saudara Amerika, bergabung dengan Perusahaan A, 35th New York Volunteer Infantry Regiment sebagai seorang pribadi pada bulan Juni 1861. Dia kemudian dipromosikan menjadi kopral, dan dia bertugas sampai diangkat bersama dengan resimen lainnya pada bulan Juni 1863. Shaw mengambil bagian dalam kegiatan resimen di Virginia dan Maryland, termasuk; pembangunan Fort Tillinghast dan Fort Craig (musim gugur 1861); tugas penjaga dan patroli di dan sekitar Falls Church, Virginia (musim dingin 1861-1862); tugas penjaga dan patroli di dan sekitar Falmouth, Virginia (musim semi 1862); pertempuran di Rappahannock Station, White Sulphur Springs, dan Gainesville (musim panas 1862); Pertempuran Bull Run Kedua (Agustus 1862); Chantilly
(September 1862); Gunung Selatan (September 1862); Antietam (September 1862); dan Fredericksburg (Desember 1862). Pada bulan Januari 1863, resimen itu ditugaskan ke brigade penjaga Provost di Falmouth, dan juga melakukan tugas penjaga dan patroli di sepanjang kereta api Aquia Creek. Pada bulan Mei, resimen meninggalkan Maryland ke New York sehingga dapat dikerahkan.