Dołączył do armii Unii jako szeregowy w Kompanii E 49-ego New York Volunteer Infantry w czerwcu 1861, uzyskał rangę sierżanta. Wraz z Armia Potomacu jego jednostka uczestniczyła w bitwach, które obejmowały Young's Mill, Yorktown, Williamsburg, Mechanicsville, Fair Oaks, Gaines's Mill, Savage's Station
, Malvern Hill, Second Bull Run, South Mountain, Antietam, Fredericksburg, Williamsport, Gettysburg, Mine Run, Wilderness, Cold Harbor, Petersburg i inne. Walsh został wzięty do niewoli podczas operacji przeciwko Welden Railroad krótko przed wygaśnięciem jego terminu naboru i był więźniem w Belle Isle, Libby Prison, Andersonville, Savannah, Castle Pinckney i Florence Stockade, zanim został wymieniony i wrócił do Annapolis w stanie Indiana, gdzie został honorowo zwolniony 5 maja 1865 roku. W pewnym momencie spędził osiem lat pracując w "Wisconsin State Journal" w Madison.