Lengkepan kalimah di handap ieu: Nalika Perang Sipil dimimitian dina 1861, Smith dilayanan salaku aide de camp ka Gubernur Illionis Richard Yates. Dina tanggal 26 Désémber 1861, anjeunna diangkat jadi kolonel ti 45th Illinois Volunteer Infantry Regiment, kalayan pangkat anu mundur ka tanggal 23 Juli 1861 pikeun ngagantikeun Kolonel saméméhna anu mundur ti Komisi nagara na nalika resimen asup kana jasa Féderal. Anjeunna mingpin resimen na di patempuran Fort Henry, Fort Donelson jeung Shiloh. Tanggal 29 Nopémber 1862 anjeunna diangkat jadi brigadir jenderal Sukarelawan AS. Manéhna saeutik maréntahkeun hiji brigade saméméh nyokot paréntah Divisi ka-8, Korps XVI. Nalika Ulysses S. Grant ngamimitian kampanye pamungkasna ngalawan Vicksburg, Smith ditempatkeun di komando Brigade 1, Divisi 3, Korps XVII. Manéhna perang di perang
Port Gibson, Raymond, Juara Hill jeung dina assaults on Vicksburg. Dina Juni, 1863 di tengah-tengah pengepungan Vicksburg, Smith dipilih pikeun ngagantikeun Jenderal Isaac F. Quinby dina komando Divisi ka-7, Korps XVII sanggeus Quinby gering sarta nyandak cuti. Dina Séptémber 1863 Smith dipindahkeun pikeun maréntahkeun Divisi ka-2, Korps XVII jeung Divisi na dikirim jeung William T. Sherman pikeun mantuan dina relief of Chattanooga. Salila perang di Missionary Ridge, Smith milu dina serangan ngalawan sisi katuhu Konfederasi di Tunnel Hill.