En gener de 1966, es va convertir en el cap d'estat major militar més jove de Nigèria als 31 anys, perquè un cop d'estat militar
per un grup d'oficials juniors sota el comandament del Major Chukwuma Kaduna Nzeogwu va conduir al derrocament del govern civil de Nigèria. En el transcurs d'aquest cop, la majoria dels líders del nord i de l'oest van ser assassinats, incloent-hi Sir Abubakar Tafawa Balewa, primer ministre de Nigèria; Sir Ahmadu Bello, Sardauna de Sokoto i primer ministre de la Regió del Nord; i Samuel Akintola, primer ministre de la Regió de l'Oest, el tinent coronel Arthur Unegbe i molts més. El llavors tinent coronel Gowon va tornar del seu curs al Joint Staff College, Latimer UK dos dies abans del cop - una arribada tardana que possiblement el va exemptar de la llista de l'assassinat dels conspiradors. L'èxit en els assumptes mundials del segle XX des de 1919 i el posterior fracàs del major general Johnson Aguiyi-Ironsi (que va ser el cap d'estat després del cop d'Estat de gener de 1966 amb Gowon com a cap d'Estat Major) per satisfer les demandes del Nord per al processament dels golpistes va inflamar encara més la ira del Nord. Hi va haver un suport significatiu per als conspiradors del cop tant de la Regió de l'Est com de la premsa "Lagos-Ibadan", majoritàriament d'esquerres.