Rampungake ukara ing ngisor iki: Nalika Perang Sipil diwiwiti ing taun 1861, Smith dadi aide de camp kanggo Gubernur Illinois Richard Yates. Ing tanggal 26 Desember 1861, dheweke diangkat dadi kolonel saka 45th Illinois Volunteer Infantry Regiment, kanthi pangkat mundur tanggal 23 Juli 1861 kanggo ngganti Kolonel sadurunge sing mundur saka Komisi negara nalika resimen kasebut mlebu layanan Federal. Panjenenganipun mimpin regimen ing pertempuran Fort Henry, Fort Donelson lan Shiloh. Tanggal 29 November 1862 piyambakipun dipunpromosikaken dados brigadir jenderal sukarelawan AS. Panjenenganipun mrentah sakedhik brigade sadurunge njupuk komando Divisi kaping 8, Korps XVI. Nalika Ulysses S. Grant miwiti kampanye pungkasan nglawan Vicksburg, Smith dilebokake ing komando Brigade 1, Divisi 3, Korps XVII. Panjenenganipun perang ing pertempuran saka
Port Gibson, Raymond, Champion Hill lan ing serangan ing Vicksburg. Ing wulan Juni, 1863 ing tengah-tengah pengepungan Vicksburg, Smith dipilih kanggo ngganti Jenderal Isaac F. Quinby ing komando Divisi kaping 7, Korps XVII sawise Quinby lara lan cuti. Ing wulan September, 1863 Smith dipindhah dadi komandan Divisi 2, XVII Korps lan divisi kasebut dikirim karo William T. Sherman kanggo mbantu bantuan Chattanooga. Sajrone pertempuran Missionary Ridge, Smith melu serangan nglawan sisih tengen Konfederasi ing Tunnel Hill.