Í upphafi borgarastyrjaldarinnar skráðist Bunn í 72. Þann 29. júní 1862, í bardaga við Savage's Station
Hann var særđur og tekinn af herjum Bandalagsins. Bunn var haldinn sem stríðsfangur í Richmond í Virginia þar til hann var sleppt í fangaskiptum síðar sama ár. Þegar Bunn kom aftur til Filadelfíu fékk hann aftur vandamál af sárinu og fékk læknisfræðilega útskrift.