أكمل الجملة التالية: استقال هاردي من عمله في الجيش الأمريكي في 31 يناير 1861 ، بعد أن انفصلت ولايته الأصلية جورجيا عن الاتحاد. انضم إلى جيش الولايات الكونفدرالية كعقيد في 7 مارس وتم إعطائه قيادة فورتس مورغان وجينز في ألاباما. تم ترقيته بعد ذلك إلى جنرال بريغادير (17 يونيو) وجنرال رئيسي (7 أكتوبر). بحلول 10 أكتوبر 1862 ، كان واحدًا من أول جنرالات الكونفدرالية. كانت مهمته الأولية كجنرال هي تنظيم لواء من فوجات أركنساس وأبهر رجاله وزملائه الضباط بحل مشاكل الإمداد الصعبة والتدريب الدقيق الذي أعطاه لواءه. حصل على لقب "Old Reliable" أثناء قيادته. عمل هاردي في أركنساس حتى تم استدعائه للانضمام إلى جيش الجنرال ألبرت سيدني جونستون في وسط كنتاكي كقائد فيلق. جونستون هيسحب من كنتاكي وتينيسي، إلى مسيسيبي، قبل إطلاق هجوم مفاجئ على
معركة شيلوه في ربيع سنة 1862. جُرح هاردي في الذراع في 6 أبريل 1862 ، خلال اليوم الأول من المعركة. قتل جونستون في شيلوه و انضم فيلق هاردي إلى جيش تينيسي للجنرال براكستون براغ قبل حصار كورينث ، ميسيسيبي ، حتى قام قائد القسم بي جي تي بوريجارد بإخلاء المدينة وانسحب إلى توبيلو. تم استبدال Beauregard بـ Bragg ، والذي نقل جيشه لاحقاً إلى Chattanooga قبل الشروع في هجوم Heartland Confederate في كنتاكي. انتهت تلك الحملة مع معركة بيريفيل في أكتوبر 1862 ، حيث قاد هاردي الجناح الأيسر لجيش براغ.