Sa pagsugod sa Sibil nga Gubat si Osterhaus gitudlo nga mayor sa 2nd Missouri Volunteer Infantry ug sa unang tuig sa gubat gipatrabaho sa Missouri ug Arkansas, diin siya nakabaton ug dayag nga bahin sa Battle of Wilson's Creek ug Battle of Pea Ridge. Sa Pea Ridge iyang gimandoan ang mga tropa nga unang nakigkontak sa mga puwersa sa Konfederasyon nga nag-uswag sa wala sa Unyon. Siya gipromot sa pagka-brigadier general niadtong Hunyo 9, 1862. Niadtong 1863 iyang gimandoan ang usa ka dibisyon sa Battle of Port Gibson
, diin iyang gipakita ang taktikal nga katakos sa pagsusi sa mga tigpanalipod sa Konfederasyon gikan sa usa ka paborableng posisyon.