Hij werd gevangen genomen in Kentucky en bracht tijd door in de gevangenis van Libby voordat hij werd uitgewisseld. Later vochten Coburn en kolonel Benjamin Harrison naast elkaar in verschillende veldslagen onder het bevel van generaal William Tecumseh Sherman. In die tijd waren Coburn en zijn troepen de eersten in Atlanta.
en verzekerde de overgave van de stad. Er is een grote marker in het centrum van Atlanta waar de burgemeester de stad overgaf aan Coburn. Hij werd opgeroepen op 20 september 1864.