Foster's tijd als bevelhebber van het leger was kort. Op 9 februari 1864 nam generaal-majoor John M. Schofield het commando over van het Department of the Ohio, en vervolgens het Army of the Ohio en het XXIII Corps in april. Gedurende deze tijd waren het XXIII Korps en het Leger van de Ohio synoniem. Schofield leidde het leger tijdens de Atlanta-campagne en achtervolgde Confederate luitenant-generaal John Bell Hood in Tennessee na de
val van Atlanta. In de Slag bij Franklin bracht Schofield een zware nederlaag toe aan Hoods leger voordat hij zich bij generaal-majoor George H. Thomas en het Army of the Cumberland voegde voor de Slag bij Nashville. Op 9 februari 1865 werd Schofield overgeplaatst naar het bevel van het Departement van North Carolina. Toen Schofield vertrok om het departementale commando over te nemen, nam generaal-majoor Jacob D. Cox tijdelijk het commando over van het leger.