Después de la caída de Vicksburg, la división de Osterhaus fue trasladada a Tennessee. En la Campaña de Chattanooga ayudó al mayor general Joseph Hooker en la captura de Lookout Mountain.
- ¿ Qué? Osterhaus luego participó en la Campaña de Atlanta, pero una licencia por enfermedad de un mes lo hizo perderse la crucial Batalla de Atlanta. Sin embargo, regresó al mando y jugó un papel importante en la Batalla de Jonesborough. Después de la captura de Atlanta, recibió el mando del XV Cuerpo, uno de los cuatro cuerpos en los que se consolidó el ejército, en la Marcha de Sherman hacia el Mar. En marzo de 1865, Osterhaus fue nombrado jefe de personal en la División Militar del Oeste de Mississippi bajo el mando del mayor general Edward Canby, un comandante con poca experiencia en combate en el alto mando. Osterhaus sirvió a Canby durante las batallas de Spanish Fort y Fort Blakely. Cuando Edmund Kirby Smith rindió a las fuerzas confederadas en el Teatro Trans-Mississippi, Osterhaus fue enviado como representante de Canby y por lo tanto firmó personalmente los documentos en nombre del ejército de la Unión.