哈迪於1861年1月31日辭去軍務, 他於3月7日加入聯邦軍, 他接著被提升為大將 (6月17日) 和少將 (10月7日). 他是第一位南方聯邦的中將. 他以解決難以解決的供應問題以及為他的旅隊提供徹底的訓練而給他的士兵和同事留下深刻印象. 他獲得了他的<unk>稱"老可靠", 哈迪在阿肯色州運作, 直到他被召喚加入肯塔基中部的阿爾伯特·西德尼·約翰斯頓將軍, 喬恩斯頓將從肯塔基州和田納西州撤退到密西西比州,
在1862年春天, 在1862年4月6日的第一天, 喬恩斯頓在示羅被殺, 哈迪的部隊加入了布拉克斯頓·布拉格將軍的田納西軍, 在密西西比州的科林斯城包圍之前, 布拉格接著將他的軍隊移至查塔努加, 這場戰役結束於1862年10月的佩里維爾戰役,