Na začiatku americkej občianskej vojny sa Bunn zaregistroval do 72. 29. júna 1862, počas bitky pri Savage's Station
, bol zranený a zajatý vojskami Konfederácie. Bunn bol držaný ako vojnový väzeň v Richmondu vo Virgínii až do jeho prepustenia počas výmeny zajatcov neskôr v tom istom roku. Po návrate do Philadelphie mal Bunn problémy s ranou a bol lekársky prepustený.