Na początku amerykańskiej wojny secesyjnej, Bunn zaciągnął się do 72. 29 czerwca 1862, podczas bitwy pod Savage's Station
Został ranny i schwytany przez siły Konfederacji. Bunn został przetrzymywany jako jeńca wojennego w Richmond w Wirginii, aż do jego uwolnienia podczas wymiany jeńców w tym samym roku. Po powrocie do Filadelfii Bunn doznał nawrotu problemów z raną i został wypisany ze szpitala.