V Grantovej kampani Vicksburg, Logan velel 3. divízii XVII. zboru Jamesa B. McPhersona, ktorý bol prvý, ktorý vstúpil do mesta Vicksburg v júli 1863 po jeho zajatí. Logan potom slúžil ako vojenský guvernér mesta. V novembri 1863 nasledoval Williama Tecumseha Shermana v velení XV.
(22. júla 1864), po smrti Jamesa B. McPhersona počas dňa, prevzal velenie armády Tennessee. Krátko potom ho nahradil Oliver O. Howard. Vrátil sa do Illinois na voľby v roku 1864, ale neskôr sa vrátil do armády a velel XV. zboru v Shermanovej kampani v Carolíne.