De meeste Arabische stammen in centraal en zuidelijk Syrië bleven loyaal aan de Oemayyaden en selecteerden de niet-Sufyanid Marwan ibn al-Hakam uit Medina om Mu'awiya II op te volgen. De proclamatie van Marwan als kalief in Damascus markeerde een keerpunt tegen Ibn al-Zubayr. Marwan's partizanen, onder leiding van Ubayd Allah ibn Ziyad, versloegen de pro-Zubayrid Qaysi stammen, onder leiding van al-Dahhak ibn Qays al-Fihri, in de Slag bij Marj Rahit.
in juli 684. De overlevende Qaysi stamleden vluchtten naar de Jazira (Boven-Mesopotamië) onder leiding van Zufar ibn al-Harith al-Kilabi, die zijn erkenning van Ibn al-Zubayr's heerschappij handhaafde. In maart 685 verloor Ibn al-Zubayr echter de economisch belangrijke provincie Egypte aan Marwan.