Hij trad toe tot het leger als soldaat in compagnie E van de 49e New Yorkse vrijwilligersinfanterie in juni 1861. Hij werd sergeant. Met het Army of the Potomac nam zijn eenheid deel aan veldslagen zoals Young's Mill, Yorktown, Williamsburg, Mechanicsville, Fair Oaks, Gaines's Mill, Savage's Station.
, Malvern Hill, Second Bull Run, South Mountain, Antietam, Fredericksburg, Williamsport, Gettysburg, Mine Run, Wilderness, Cold Harbor, Petersburg en andere. Walsh werd gevangen genomen tijdens operaties tegen de Welden Railroad kort voor het verstrijken van zijn dienstperiode en was een gevangene in Belle Isle, Libby Prison, Andersonville, Savannah, Castle Pinckney en Florence Stockade, voordat hij werd uitgewisseld en terugkeerde naar Annapolis, Indiana, waar hij op 5 mei 1865 eervol werd ontslagen. Op een gegeven moment daarna werkte hij acht jaar bij de "Wisconsin State Journal" in Madison.