Murtala lahir di Kano, dalam keluarga religius kelas penguasa, ia bertugas di Angkatan Darat Nigeria sebagai kadet di Akademi Militer Kerajaan, Sandhurst. Dia kemudian bertugas di Kongo; akhirnya naik pangkat menjadi brigadir jenderal pada tahun 1971, berusia 33 tahun, menjadi salah satu jenderal termuda di Nigeria. Tiga tahun kemudian Murtala menjadi Komisaris Federal untuk Komunikasi di Lagos. Sebagai seorang konservatif dan federalis, Murtala menyesali penggulingan Republik Pertama dan promulgasi dekrit penyatuan Aguiyi Ironsi tahun 1966. Ia hancur oleh pembunuhan Sir Ahmadu Bello, dan untuk waktu serius mempertimbangkan pemisahan diri Nigeria Utara. Karirnya berlipat ganda setelah Chukwuma Kaduna Nzeogwu dan majors muda mengatur kudeta militer pertama di Nigeria pada tahun 1966 kudeta
memberdayakannya untuk memimpin pemberontakan malam 29 Juli 1966 di Abeokuta. Murtala sempat dianggap sebagai Komandan Tertinggi sebelum penunjukan Yakubu Gowon. Dia juga merencanakan kudeta kontra Juli 1966, yang jelas, memicu Perang Saudara Nigeria.