Vuonna 1970 sota puhkesi kuningas Husseinin johtaman Jordanian hallituksen ja Yasser Arafatin johtaman PLO:n välillä. Tämä konflikti tuli tunnetuksi nimellä "musta syyskuu".
", ja johti monien palestiinalaisperäisten jordanialaisten sotilaiden karkuun. Mahmoud oli yksi niistä, jotka olivat PLO:n puolella ja loikkasivat Jerashissa. Hänet nimitettiin PLO:n ns. "Yarmoukin joukkojen" varapuheenjohtajaksi. Palvellessaan Saad Sayelin alaisuudessa hän taisteli entisiä tovereitaan vastaan Jordanian kuninkaallisessa armeijassa. PLO kukistettiin ja syrjäytettiin Jordaniasta vuoden 1971 puolivälissä. Mahmoud muutti Syyriaan, jossa hän osallistui Fatahin kolmanteen konferenssiin Hamouriyahissa syyskuussa 1971. Hänet nimitettiin Fatahin vallankumouksellisen neuvoston jäseneksi tämän konferenssin aikana ja ylennettiin Yarmoukin joukkojen komentajaksi vuonna 1972. Hän otti johdon Libanonin vuorelle ja Bekaa-laaksoon sijoitettujen PLO:n joukkojen johdosta. Kokeneena sotilaallisena insinöörinä hän oli vastuussa palestiinalaisten militanttien linnoitusten rakentamisesta.