ג'ונסון התגייס לצבא האיחוד בגיל 15. הוא נרשם בתחילה לחטיבה H של גדוד חיל הרגלים ה-43 באוהיו. הגדוד קיבל את הפיקוד על חיל ה-16 בחטיבה הרביעית, אך באביב 1864, ג'ונסון הועבר לחטיבה הראשונה של חיל ה-17. שם, הוא שירת תחת גנרל ג'ון וו. ב-1 במאי 1864, הגדוד של ג'ונסון הצטרף לצבאו של גנרל ויליאם טקומסה שרמן בצ'אטנוגה. הקרב הראשון בו השתתף ג'ונסון והיה תחת אש, היה קרב דקאטור. ג'ונסון קיבל פצע קל ברגל, מעל מפרק הברך השמאלי, בקרב רסקה. ג'ונסון עדיין השתתף במלחמות עתידיות, כגון קרב דאלאס, קרב הר קנסאו, וקרב פיצ'טרי קריק. לאחר
לאחר נפילת אטלנטה, ג'ונסון שירת כמטפל של הגנרל ספראג, בתפקיד ששימש בו עד שירד בסוף המלחמה. לאחר המלחמה, ג'ונסון חזר למחוז לוריין, אוהיו.