Andika mwendelezo wa aya hii - Gowon alijiunga na Jeshi la Nigeria mnamo 1954, na akapokea tume yake kama luteni wa pili mnamo 19 Oktoba 1955, siku yake ya kuzaliwa ya 21. Alipata mafunzo katika kifahari Royal Military Academy Sandhurst, Uingereza (1955<unk>56), Staff College, Camberley, Uingereza (1962) na pia katika Chuo cha Pamoja cha Wafanyakazi, Latimer, 1965. Aliona matendo katika Kongo
kama sehemu ya Umoja wa Mataifa Amani Force, wote katika 1960 <unk> 61 na katika 1963. Alipandishwa cheo kuwa kamanda wa kikosi cha jeshi mwaka 1966, wakati huo alikuwa bado ni luteni-koloneli.