Pomimo swojej młodości, Kirkland wstąpił do armii Konfederacji w 1861 roku, niedługo po wypowiedzeniu wojny, przed jego starszymi braćmi. Najpierw został przydzielony do Kompanii E, 2nd South Carolina Volunteer Infantry, ale później został przeniesiony do Kompanii G tego samego pułku i został awansowany na sierżanta. Po raz pierwszy brał udział w walce podczas pierwszej bitwy pod Bull Run (Pierwszy Manassas), a później w bitwie pod Savage's Station
, bitwa o Maryland Heights i bitwa pod Antietam, podczas której zginęło wielu jego najbliższych przyjaciół z hrabstwa Kershaw.