A Vicksburg bukása után Osterhaus hadosztályát Tennessee-be szállították. A Chattanooga-i hadjáratban segített Joseph Hooker vezérnagynak
Lookout hegy. Osterhaus ezután részt vett az atlantai hadjáratban, de egy hónapos betegszabadság miatt kihagyta a döntő atlantai csatát. Azonban visszatért a parancsnoksághoz, és jelentős szerepet játszott a Jonesborough-i csata során. Atlanta elfoglalása után megkapta a XV. hadtest parancsnokságát, az egyik négy hadtestet, amelybe a sereg összevonult, a Sherman's March to the Sea-ben. 1865 márciusában Osterhaus-t kinevezték a Nyugat-Mississippi katonai divízió vezérkarának főnökévé, Edward Canby tábornok parancsnoksága alatt, aki kevés harci tapasztalatú parancsnok volt a főparancsnokságban. Osterhaus Canby-t szolgálta a spanyol erőd és a Blakely erőd csatáiban. Amikor Edmund Kirby Smith megadta magát a konföderációs erőknek a Mississippin túli csatatéren, Osterhausot küldték Canby képviselőjeként, és ezért személyesen írta alá a dokumentumokat az uniós hadsereg nevében.