Eftir að bandaríska borgarastyrjöldin braust út gekk Jones fúslega í her sambandsins. 7. júlí 1861 skráðist hann í 37. sjálfboðaliðaflokkinn í New York, almennt þekktur sem "Irish Rifles", undir yfirmanni John H. McCunn. Hann var upphaflega hermaður en var fljótt kjörinn í stöðu seinni liðsforingja af mönnum í herliðinu. Hann var viðstaddur í fyrra slaginu við Bull Run, aðeins tveimur vikum eftir að hann var skráður, en sá enga aðgerð þar sem einingin var í varaliði. Jones sýndi "gallant háttsemi" á fyrstu árum sínum í herflokknum og var fljótt kominn í röð yfirliðsforingja og aðstoðarforingja 4. nóvember 1861 og svo aðalforingja 21. janúar 1862. Hann og "Irish Rifles" tóku síðar þátt í III liði Samuel P. Heintzelman hershöfðingja, sem hluti af 3. brígadu 3. deildar undir Philip Kearny hershöfðingja, í herferðinni á hálendis og tóku þátt í Williamsburg, Seven Pines
og sjö daga herferđina. Jones var einnig viðstaddur þegar 37. sjálfboðaliðsflokkurinn í New York, sem þá var tengdur 3. brígöðu 1. deildar III liðsins, var í öðru slaginu við Bull Run. Í maí og júní byrjaði hann að þjást af malaríu og var lagður inn á sjúkrahús í Washington D.C. 26. september og var þar til loka október. Hann var einnig yfirmaður Franz Sigel hershöfðings í stutta stund áður en Ambrose Burnside hershöfðingi lagði sig í eftirlaun og Potomac-herinn var endurskipulagður.