Cuando las noticias de la Guerra Civil llegaron a Minnesota, Bloomer y sus primos se unieron a los Guardias de Stillwater, un grupo de milicia local. Los guardias fueron reclutados en el Primer Regimiento de Infantería Voluntaria de Minnesota en Fort Snelling el 29 de abril de 1861, formando el núcleo de la Compañía B. Bloomer recibió inicialmente el rango de cabo y participó en todos los enfrentamientos principales del regimiento hasta la Batalla de Antietam. Fue herido ligeramente en la cabeza en la Batalla de Bull Run. Durante la Batalla de la Estación Savage
El 29 de junio de 1862, que fue parte de la Campaña de la Península, Bloomer fue ascendido a sargento de color. En medio del combate el abanderado fue asesinado. Bloomer recogió los colores, y fue separado del regimiento durante cinco horas. Devolvió los colores al regimiento y fue ascendido por su valentía.