Na początku amerykańskiej wojny secesyjnej, Bunn zaciągnął się do 72. oddziału piechoty Pensylwanii. 29 czerwca 1862, podczas
W bitwie pod Savage's Station został ranny i schwytany przez siły Konfederacji. Bunn został przetrzymywany jako jeńca wojennego w Richmond w Wirginii, aż do jego uwolnienia podczas wymiany jeńców w tym samym roku. Po powrocie do Filadelfii Bunn doznał nawrotu problemów z raną i został wypisany ze szpitala.