Został schwytany w Kentucky i spędził trochę czasu w więzieniu Libby przed wymianą. Później Coburn i pułkownik Benjamin Harrison walczyli ramię w ramię w kilku bitwach pod dowództwem generała Williama Tecumseha Shermana. W tym czasie, Coburn i jego żołnierze byli pierwsi w Atlancie
i zabezpieczył kapitulację miasta. W centrum Atlanty znajduje się wielki pomnik, na którym burmistrz miasta oddał miasto Coburnowi. Został powołany 20 września 1864.