Johnson zaciągnął się do armii Unii w wieku 15 lat. Początkowo był wpisany w Kompanię H 43 Pułku Piechoty Ohio. Pułku przydzielono dowództwo XVI Korpusu w czwartej dywizji, ale wiosną 1864 roku Johnson został przeniesiony do pierwszej dywizji XVII Korpusu. Służył pod dowództwem generała Johna W. Sprague'a. 1 maja 1864 roku pułk Johnsona dołączył do armii generała Williama Tecumseha Shermana w Chattanooga. Pierwszą bitwą, w której uczestniczył Johnson, była bitwa pod Decatur. Johnson otrzymał niewielką ranę w nodze, powyżej lewej stawu kolanowego, w bitwie pod Resaca. Johnson nadal uczestniczył w przyszłych bitwach, takich jak bitwa pod Dallas, bitwa pod Kennesaw Mountain i bitwa pod Peachtree Creek. Po upadku Atlanty
Johnson służył jako pielęgniarz generała Sprague'a, stanowisko, w którym służył, dopóki nie został zwolniony pod koniec wojny. Po wojnie Johnson wrócił do hrabstwa Lorain w Ohio.