In maart 1861 werd Ferguson aangesteld als kapitein in de militie van South Carolina, waarna hij werd benoemd tot luitenant en aide-de-camp van brigadier-generaal P. G. T. Beauregard. Hij was een van de officieren die de formele overgave van de Amerikaanse legermajoor Robert Anderson in Fort Sumter ontving, de eerste vlag van de Verbonden Staten opstak en de eerste bewakers in Fort Sumter plaatste. Na de belegering werd hij gestuurd om de eerste Confederate vlag te presenteren die door vijandelijk schot werd geraakt aan het Voorlopige Congres van de Confederate States. Hij was luitenant-kolonel en aide-de-camp van generaal Beauregard tijdens de Slag om Shiloh.
Ik weet het. Tijdens de Slag bij Farmington, was hij in het 28th Mississippi Cavalry Regiment. Hij leidde de eenheid tijdens de verdediging van Vicksburg en hielp aanvallen van de Amerikaanse generaal-majoor William T. Sherman en de Amerikaanse Commodore David Porter tegen te houden.