Kiedy wybuchła Wojna Secesyjna w 1861 roku, Magruder opuścił armię Unii, by przyjąć stanowisko w Konfederacji. Jako dowódca Armii Półwyspu umocnił Półwysep Wirginii i wygrał bitwę pod Big Bethel. W kampanii półwyspowej zatrzymał armię Potomaca McClellana poza Yorktownem, pozwalając generałowi major Joseph E. Johnstonowi przybyć z posiłkami, zorganizować odwrót i obronić stolicę Konfederacji, Richmond. Magruder był krytykowany za jego przywództwo w bitwach na
Stacja Savage'a i wzgórze Malvern podczas Siedmiodniowej Bitwy. Przez resztę wojny zarządzał okręgiem Teksasu, Nowego Meksyku i Arizony oraz departamentem Arkansas; w trakcie swojej kadencji Magruder podniósł blokadę morską nad Galveston i odbił miasto w 1863 roku.