השלים את המשפט הבא: עם פרידתן של 11 מדינות הדרום ופרוץ מלחמת האזרחים, מילר הצטרף לצבא האיחוד. ב-27 באוגוסט 1861 מינה המושל אוליבר מורטון את מילר לקולונל של חיל הרגלים ה-29 של אינדיאנה. לאחר האימונים, המחלקה הוקצה לחטיבת קירק בחטיבת אלכסנדר מקקוק בצבא אוהיו של בואל וצעדה לטנסי. מילר ראה פעולה ביום השני של
קרב שילה, כמו גם במהלך המצור על קורינתוס. מילר הוביל את הגדוד שלו דרך צפון אלבמה וטנסי ורדף אחרי ברקסטון בראג דרך קנטאקי. מילר פיקד על חטיבה תחת פיקודו של ג'יימס נגלי במהלך קרב נהר סטונס בסוף דצמבר 1862. ביום השני של הקרב, מילר הוביל את התקיפה הפדרלית מעבר לנהר סטונס, שהדחה את התקפת הקונפדרציה של ג'ון ברקינרידג'. במהלך ההתקפה הזו מילר נפצע בצוואר.