Po upadku Vicksburga, dywizja Osterhaus'a została przeniesiona do Tennessee. Podczas kampanii w Chattanooga pomógł generałowi Joseph'owi Hooker'owi w zdobyciu góry Lookout.
- Co? Osterhaus uczestniczył następnie w kampanii atlantańskiej, ale miesięczny urlop chorobowy spowodował, że przegapił kluczową bitwę pod Atlantą. Jednak wrócił do dowództwa i odegrał znaczącą rolę w bitwie pod Jonesborough. Po zajęciu Atlanty otrzymał dowództwo nad XV Korpusem, jednym z czterech korpusów, w które skonsolidowano armię w marszu Shermana na Morze. W marcu 1865 roku Osterhaus został mianowany szefem sztabu Dywizji Wojskowej Zachodniego Missisipi pod dowództwem generała majora Edwarda Canby'ego, dowódcy z niewielkim doświadczeniem bojowym w wyższym dowództwie. Osterhaus służył Canby'emu w bitwach pod Spanish Fort i Fort Blakely. Kiedy Edmund Kirby Smith poddał siły konfederatów w Trans-Mississippi Theater, Osterhaus został wysłany jako przedstawiciel Canby'ego i dlatego osobiście podpisał dokumenty w imieniu armii Unii.