După asasinarea celui de-al treilea calif Uthman în 656 de către rebelii provinciali, califatul a căzut în război civil
cum Mu'awiya ibn Abi Sufyan, un rudă al lui Uthman și guvernatorul Siriei, a contestat legitimitatea noului calif Ali. Bătălia indecisă dintre cei doi la Siffin s-a încheiat printr-un acord de arbitraj în iulie 657. Afirmând că arbitrajul uman era invalid, deoarece porunca lui Dumnezeu era clară că rebelii (în acest caz Mu'awiya) trebuiau luptați și învinși, unii dintre soldații lui Ali au părăsit armata. Au fost numiți kharijiți după această secesiune. Mai târziu, au luptat împotriva lui Ali în bătălia de la Nahrawan în iulie 658 și au fost zdrobiți de calif. După asasinarea lui Ali în 661 de către un kharijite, Mu'awiya a devenit singurul conducător, stabilind Califatul Umayyad. În timpul domniei sale, kharijitii au înflorit în orașul Basra din sudul Irakului. Reprimate sever de guvernatorul irakian Ziyad ibn Abih și mai târziu de Ubayd Allah ibn Ziyad, kharijitii au fugit în Arabia în jurul anului 680.