Na začátku americké občanské války se Bunn přihlásil do 72. pěchoty Pensylvánie. 29. června 1862, během bitvy u Savage's Station
, byl zraněn a zajat Konfederačními silami. Bunn byl držen jako válečný zajatec v Richmondu ve Virginii až do jeho propuštění během výměny zajatců později téhož roku. Po návratu do Filadelfie měl Bunn opět problémy se zraněním a byl lékařsky propuštěn.