Aan het begin van de Burgeroorlog, Mansfield beval het Departement van Washington (27 april - 17 augustus 1861), en werd gepromoveerd tot brigadier-generaal op 6 mei 1861. Generaal-in-chief Winfield Scott aanbevolen Mansfield voor het commando van de vrijwilliger leger wordt opgewekt in Washington D.C. dat voorjaar, maar het commando ging naar Irvin McDowell in plaats daarvan. Mansfield werd niet als de beste keuze beschouwd vanwege zijn relatief gevorderde leeftijd en scepticisme over vrijwillige troepen en de druk van de administratie voor een snelle rit naar Richmond die de oorlog in een paar maanden zou beëindigen, en hij had ook geen politieke sponsor in Washington. Na de nederlaag van de Unie bij Bull Run, werd George McClellan het bevel gegeven over de oorlogsinspanningen in het oostelijke theater en Mansfield's hoop op het bevel van het leger werd opnieuw verwoest. McClellan bood hem ook geen commando aan in het nieuw gecreëerde Army of the Potomac. Mansfield was gestationeerd op
Hatteras Inlet, North Carolina, in oktober, na de slag die daar in augustus door Benjamin Butler werd gevochten. Hij was brigadekommandant in het departement Virginia van maart tot juni 1862. Zijn enige gevechtsactiviteit in deze periode was het afvuren van kustbatterijen vanuit Hampton Roads tegen de ironclad "CSS Virginia" in haar zeeslag tegen de "USS Monitor" op 9 maart 1862. Tot de herfst van 1862 beval Mansfield de Suffolk-divisie van het VII-korps van het departement Virginia in de omgeving van Suffolk.