Gardner ging naar plaatselijke districtscholen en studeerde twee jaar in het seminarie van Genesee en Wyoming. In augustus 1862, tijdens de Amerikaanse Burgeroorlog, werd hij ingelijfd in Compagnie C van het 130ste New Yorkse Infanterie Regiment. Het regiment werd later het 19e New York Cavalry Regiment en vervolgens het 1e New York Dragoons Regiment. Aanvankelijk korporaal van de compagnie, werd hij later gepromoveerd tot sergeant. In de herfst van 1864, tijdens de vallei campagnes van 1864
Hij verloor zijn rechterbeen, dat geamputeerd werd in het Camden Street Hospital in Baltimore. Na de amputatie ontstond er gangreen en moest hij nog een tweede keer geopereerd worden. Hij werd ontslagen uit het leger in april 1865. Na zijn terugkeer naar Attica werd hij aangesteld als postbediende bij de Erie Railway, een functie die hij de volgende drie jaar bekleedde.