A polgárháború kezdetén Mansfield parancsnoka volt a washingtoni minisztériumnak (április 27-től augusztus 17-ig 1861-ben), és 1861. május 6-án promócióra került. Winfield Scott főparancsnok Mansfieldet ajánlotta az önkéntes hadsereg parancsnokságára, amelyet Washingtonban emeltek fel abban a tavasszal, de a parancsnokság inkább Irvin McDowellre ment. Mansfieldet nem tartották a legjobb választásnak, mivel viszonylag idős volt, és szkeptikus volt az önkéntes csapatokkal szemben, és az adminisztráció sürgette a Richmond-i gyors megmozdulást, amely néhány hónap alatt véget vetett volna a háborúnak, és Washingtonban nem volt politikai szponzora. A Bull Run-i uniós vereség után George McClellant helyezték a keleti csatatér parancsnoksága alá, és Mansfield hadseregparancsnokságának reményei ismét összeomlottak. McClellan sem ajánlotta neki a parancsnokságot az újonnan létrehozott Potomac Hadseregben. Mansfield Hatteras Inletben állomásozott, Észak-Karolinában.
Októberben, Benjamin Butler augusztusban vívott csatáját követően. 1862. márciusa és júniusa között brigádparancsnok volt a Virginia-i minisztériumban. Az egyetlen harci tevékenysége ebben az időszakban a part menti akkumulátorok Hampton Roads-ból a "CSS Virginia" ellen a "USS Monitor" ellen vívott tengeri csatában 1862. március 9-én. 1862 őszéig Mansfield parancsnoka volt a Virginia-i minisztérium VII. hadtestének Suffolk-i hadosztályának, Suffolk környékén.