Isulat ang pagpadayon niining parapoha - Sa dihang nagsugod ang Gubat Sibil sa 1861, si Smith nag-alagad ingong aide de camp sa Gobernador sa Illinois nga si Richard Yates. Sa Disyembre 26, 1861, siya gitudlo nga koronel sa ika-45 nga Illinois Volunteer Infantry Regiment, uban sa ranggo backdated sa Hulyo 23, 1861 sa pagpuli sa miaging Koronel nga mibiya sa iyang estado Commission sa diha nga ang regimiento misulod sa Federal nga pag-alagad. Siya nangulo sa iyang regimiento sa mga gubat sa Fort Henry, Fort Donelson ug Shiloh. Sa Nobyembre 29, 1862 siya gipataas ngadto sa brigadier heneral sa U.S. Volunteers. Siya sa madali misugo sa usa ka brigada sa wala pa pagkuha sa mando sa ika-8 nga Dibisyon, XVI Corps. Sa dihang gisugdan ni Ulysses S. Grant ang iyang kataposang kampanya batok sa Vicksburg, si Smith gibutang sa mando sa 1st Brigade, 3rd Division, XVII Corps. Siya nakig-away sa mga gubat sa Port Gibson
, Raymond, Champion Hill ug sa mga pag-atake sa Vicksburg. Sa Hunyo, 1863 sa tunga-tunga sa paglikos sa Vicksburg, si Smith gipili sa pagpuli sa Gen. Isaac F. Quinby sa pagmando sa 7th Division, XVII Corps human si Quinby nasakit ug nagbakasyon. Sa Septyembre, 1863 si Smith gibalhin sa pagmando sa 2nd Division, XVII Corps ug ang iyang dibisyon gipadala uban sa William T. Sherman sa pagtabang sa kahupayan sa Chattanooga. Sa panahon sa gubat sa Missionary Ridge, si Smith miapil sa mga pag-atake batok sa Confederate nga tuo nga kilid sa Tunnel Hill.