कहते हैं कि सुलह के बहाने अल अब्बास ने उमय्यद वंश के तमाम वारिसों को दावत के लिए कूफा बुलाया और भोजन परोसे जाने से पहले ही सभी को मार डाला. एक अब्द अल रहमान इब्न मुआविया ही बच सका. वह भागकर स्पेन पहुंचा, जहां एक इलाके में उसने अपना राज स्थापित किया और वहां उमय्यद खिलाफत तीन सदियों तक कायम रही. इस बाबत दूसरी कथा यह यह है कि सीरिया के गवर्नर अब्द अल्लाह इब्न अली ने उमय्यदों को खोज-खोजकर मारा. जून, 754 में चाचा अल अब्बास की मौत के बाद इस गवर्नर ने खलीफा के भाई अल-मंसूर के बरक्स खुद के खलीफा बनने का दावा पेश किया, पर उसे कैद कर लिया गया और 764 में मार डाला गया. पर, सीरिया की गवर्नरी उसके परिवार के पास ही रही और उसके पकड़े जाने के बाद उसका भाई सालिह को यह पद मिला. अब्द अल्लाह ने सीरिया में अब्बासी खिलाफत को मजबूत करने में बड़ी भूमिका निभायी थी और उसी के दायरे में जेरूसलम भी आता था.