Ao comezo da Guerra Civil Americana, Bunn alistouse na 72a Infantería de Pensilvania. O 29 de xuño de 1862, durante a batalla de Savage's Station
Foi ferido e capturado polas forzas confederadas. Bunn foi mantido como prisioneiro de guerra en Richmond, Virginia ata a súa liberación durante un intercambio de prisioneiros máis tarde ese ano. Ao regresar a Filadelfia, Bunn experimentou unha recaída de problemas da súa ferida e recibiu unha alta médica.