Po pádu Vicksburgu byla Osterhausova divize přeložena do Tennessee. V Chattanoogské kampani pomáhal generálmajorovi Josephovi Hookerovi při dobývání Lookout Mountain
- Ne, ne. Osterhaus se pak zúčastnil Atlanta kampaně, ale měsíc dlouhá nemocenská dovolená způsobila, že mu chybí rozhodující bitva o Atlanta. Nicméně se vrátil k velení a sehrál významnou roli v bitvě u Jonesborough. Po dobytí Atlanty obdržel velení XV sboru, jednoho ze čtyř sborů, do kterých byla armáda konsolidována, v Shermanově pochodu k moři. V březnu 1865 byl Osterhaus jmenován náčelníkem štábu vojenské divize Západní Mississippi pod velením generála majora Edwarda Canbyho, velitele s malými bojovými zkušenostmi ve vrchním velení. Osterhaus sloužil Canbyho během bitev u španělské pevnosti a pevnosti Blakely. Když se Edmund Kirby Smith vzdal konfederačním silám v trans-Mississippi divadle, Osterhaus byl vyslán jako Canbyho zástupce a proto osobně podepsal dokumenty jménem armády Unie.