Po vienuolikos pietinių valstijų atsiskyrimo ir pilietinio karo pradžios, Milleris prisijungė prie Sąjungos armijos. 1861 m. rugpjūčio 27 d. gubernatorius Oliveris P. Mortonas paskyrė Millerį 29-ojo Indianos pėstininkų pulkininko pareigas. Po treniruočių pulkas buvo priskirtas Kirko brigadai Aleksandro M. Makuko divizijoje Buello Ohajo armijoje ir žygiavo į Tenesiją. Milleris dalyvavo antroje Šilo mūšio dieną
, taip pat per vėlesnę Korinto apgultį. Milleris vadovavo savo pulkui per šiaurės Alabamą ir Tenesiją ir persekiojo Braxtoną Braggą per Kentukį. 1862 m. gruodžio pabaigoje Mileris vadovavo brigadai, kuriai vadovavo Džeimsas Neglis, Stounso upės mūšyje. Antroje mūšio dienoje Milleris vadovavo Federacijos kontratakui per Stones River, kuris atremė John C. Breckinridge'o Konfederacijos puolimą. Per šį puolimą Mileris buvo sužeistas į kaklą.