La izbucnirea Războiului Civil American, Jones s-a alăturat Armatei Uniunii. La 7 iulie 1861, s-a înrolat în Regimentul 37 Voluntari din New York, cunoscut popular sub numele de "Irish Rifles", sub comanda colonelului John H. McCunn. Inițial a fost soldat, dar s-a trezit rapid ales în gradul de locotenent al doilea de către oamenii din regiment. El a fost prezent la prima bătălie de la Bull Run, la doar două săptămâni după înrolare, dar nu a văzut nicio acțiune, deoarece unitatea a fost ținută în rezervă. Jones a arătat o "conduită galantă" în primii săi ani cu regimentul și în curând a urcat în grad de locotenent și adjutant pe 4 noiembrie 1861, și apoi de maior pe 21 ianuarie 1862. El și "Irish Rifles" s-au alăturat mai târziu Corpului III al generalului Samuel P. Heintzelman, ca parte a Brigadei a 3-a a Diviziei a 3-a sub comanda generalului de brigadă Philip Kearny, în timpul campaniei din Peninsula și au participat la Williamsburg, Seven Pines
şi campania de 7 zile. Jones a fost, de asemenea, prezent atunci când 37th New York Volunteers, apoi atașat la Brigada a 3-a a Diviziei a 1-a a Corpului III, a fost la a doua bătălie de la Bull Run. În mai și iunie, a început să sufere de malarie și a fost internat la spitalul din Washington, D.C. pe 26 septembrie, rămânând acolo până la sfârșitul lunii octombrie. El a fost, de asemenea, ofițer pentru generalul-maior Franz Sigel înainte de pensionarea generalului Ambrose Burnside și reorganizarea Armatei Potomacului.