Născut în Kano, într-o familie religioasă din clasa conducătoare, Murtala a servit în armata nigeriană ca cadet la Academia Militară Regală din Sandhurst. Mai târziu a servit în Congo.
În cele din urmă a urcat în gradul de general de brigadă în 1971, la vârsta de 33 de ani, devenind unul dintre cei mai tineri generali din Nigeria. Trei ani mai târziu, Murtala a devenit comisarul federal pentru comunicații în Lagos. Ca conservator și federalist, Murtala a regretat răsturnarea Primei Republici și promulgarea decretului de unificare din 1966 al lui Aguiyi Ironsi. El a fost devastat de asasinarea lui Sir Ahmadu Bello și pentru o perioadă de timp a luat în considerare în mod serios secesiunea Nigeriei de Nord. Cariera sa s-a dublat după ce Chukwuma Kaduna Nzeogwu și tinerii majori au orchestrat prima lovitură de stat militară din Nigeria din 1966, lovitură de stat care i-a dat puterea de a conduce revolta din noaptea de 29 iulie 1966 în Abeokuta. Murtala a fost considerat pentru scurt timp comandant suprem înainte de numirea lui Yakubu Gowon. El a organizat, de asemenea, contra-coupul din iulie 1966, care, evident, a declanșat războiul civil nigerian.