A pesar de su juventud, Kirkland se alistó en el Ejército Confederado en 1861, poco después de que se declarara la guerra, antes que sus hermanos mayores. Primero fue asignado a la Compañía E, 2da Infantería Voluntaria de Carolina del Sur, pero más tarde fue transferido a la Compañía G del mismo regimiento, y fue ascendido a sargento. Vió por primera vez la acción durante la Primera Batalla de Bull Run (Primer Manassas), y más tarde en la
Batalla de Savage's Station, Batalla de Maryland Heights y Batalla de Antietam, durante la cual muchos de sus amigos más cercanos del condado de Kershaw fueron asesinados.