史密斯是伊利諾伊州總督理查德耶茨的副軍官. 在1861年12月26日, 他被任命為第45號伊利諾伊州志願步兵連隊的上校, 他帶領軍團在亨利堡,唐尼爾森堡和西洛的戰鬥中. 他在1862年11月29日被提升為美軍志工大將. 他短暫指揮了一支旅, 在接任第八師,第十六軍團的指揮之前. 史密斯被任命為第1旅,第3師,第17軍團的指揮官. 他曾在吉布森港的戰鬥中戰鬥.
雷蒙德,冠軍山以及在維克斯堡的攻擊. 史密斯在1863年6月的維克斯堡圍攻中被選為第七師第十七軍團的指揮官, 史密斯在1863年9月被轉任為第2師第17軍團的指揮官, 他的師團與William T. Sherman一起前往查塔努加救援. 史密斯在南方軍對南方右翼的攻擊中參與.