השלים את המשפט הבא: עם פרוץ מלחמת האזרחים אוסטרהאוס מונה למייג'ור של חיל הרגלים המתנדב השני של מיזורי ובשנת המלחמה הראשונה הוא היה מועסק במיזורי ובארקנסו, שם הוא השתתף באופן בולט בקרב וילסון'ס קריק ובקרב פי רידג'. בפי רידג' הוא פיקד על החיילים שהתחברו לראשונה עם כוחות הקונפדרציה המתקדמים משמאל האיחוד. הוא הועלה לגנרל חטיבה ב-9 ביוני 1862. בשנת 1863 הוא פיקד על דיוויזיה ב
קרב פורט גיבסון, שם הוא הפגין יכולת טקטית בהסתכלות על מגיני הקונפדרציה מתוך עמדה טובה.