إكتب استمرار لهذه الفقرة - لما بدأت الحرب الأهلية في عام 1861، عمل سميث كمساعد معسكر لحاكم إلينوي ريتشارد ييتس. في 26 ديسمبر 1861 تم تعيينه كولونيل في فوج المشاة التطوعي الـ 45 في ولاية إلينوي ، مع ارتداد الرتبة إلى 23 يوليو 1861 ليحل محل الكولونيل السابق الذي استقال من لجنة ولايته عندما دخل الفوج الخدمة الفيدرالية. قاد فوجه في معارك فورت هنري وفورت دونيلسون وشيلوه. في 29 نوفمبر 1862 تم ترقيته إلى لواء جنرال للمتطوعين الأمريكيين. قاد لفترة وجيزة لواء قبل أن يتولى قيادة الفرقة الثامنة ، الفيلق السادس عشر. عندما بدأ أوليسيس إس غرانت حملته الأخيرة ضد فيكسبرغ، تم وضع سميث في قيادة اللواء الأول، الفرقة الثالثة، الفيلق السابع عشر. حارب في معارك بورت جيبسون
رايموند، شامبيون هيل و في الهجمات على فيكسبرج. في يونيو ، 1863 في خضم حصار فيكسبرج ، تم اختيار سميث ليحل محل الجنرال اسحاق إف كوينبي في قيادة الفرقة السابعة ، الفيلق السابع عشر بعد أن مرض كوينبي وأخذ إجازة. في سبتمبر 1863 تم نقل سميث لقيادة الفرقة الثانية ، الفيلق السابع عشر وتم إرسال فرقته مع ويليام تي شيرمان للمساعدة في إغاثة تشاتانوجا. خلال معركة ميسيونري ريدج ، شارك سميث في الهجمات ضد الجناح الأيمن الكونفدرالي في تيل تونل.