Í 1970 braust út stríð milli fyrrverandi bandamanna í Jórdaníu undir stjórn Hussein konungs og PLO undir stjórn Yasser Arafat. Þessi átök urðu þekkt sem "Black September"
" og leiddi til þess að margir Jórdanískir hermenn af Palestínskum uppruna flúðu. Mahmoud var einn af þeim sem lagði sig á hlið PLO og flúði í Jerash. Hann var ráðinn varaforingja svokallaðra "Yarmouk-styrkja" PLO. Hann þjónaði undir stjórn Saad Sayel og barðist því gegn fyrrverandi félaga sínum í konunglegum her Jórdaníu. PLO var sigrað og útrýmt frá Jórdaníu um miðjan 1971. Mahmoud flutti til Sýrlands, þar sem hann tók þátt í þriðju ráðstefnu Fatah í Hamouriyah í september 1971. Hann var ráðinn aðili að byltingarráði Fatah á þessari ráðstefnu og var kynntur sem yfirmaður Yarmouk styrkjanna árið 1972. Hann tók því við stjórn herja PLO sem voru staðsettir í Líbanonfjallinu og Beqaa-dalnum. Sem reynslumikill hernaðarverkfræðingur var hann ábyrgur fyrir uppbyggingu festinga fyrir palestínska hernaðarmenn.