W kampanii Vicksburg, Logan dowodził III Dywizją XVII Korpusu Jamesa B. McPhersona, która jako pierwsza weszła do miasta Vicksburg w lipcu 1863 roku po jego zdobyciu. Logan był wtedy gubernatorem wojskowym miasta. W listopadzie 1863 roku zastąpił Williama Tecumseha Shermana na czele XV Korpusu; w bitwie pod Atlantą
(22 lipca 1864), po śmierci Jamesa B. McPhersona w ciągu dnia, przejął dowództwo armią Tennessee. Krótko potem zastąpił go Oliver O. Howard. Powrócił do Illinois na wybory w 1864 roku, ale powrócił do armii i dowodził XV korpusem w kampanii Shermana w Karolinach.