Kai 644 m. persai nužudė Umarą, Osmanas buvo išrinktas įpėdiniu, tačiau sulaukė vis didėjančios opozicijos. 656 m. buvo nužudytas ir Uthmanas, o Ali tapo kalifu. Tai sukėlė pirmąjį pilietinį karą.
("Pirmasis Fitna") dėl to, kas turėtų būti kalifas. Kharijitai buvo vienas pagrindinių varžovų šiame kare. Jie laiko kalifų nuodėmes už islamo ribų ir ragina juos žudyti kaip apostatus. Skirtingai nei vėlesniems sunitams ir šiitams, kalifas reikalauja tik nuolankumo ir nebūtinai turi būti Muhammedo, jo šeimos ar genties palikuonis. Kharijitai nužudė Ali 661 m. Kad išvengtų tolesnių kovų, naujasis kalifas Hasanas ibn Ali pasirašė taikos sutartį, abdikuodamas Mu'awiyah, pradėdamas Umajų dinastiją, mainais į tai, kad jis neįvardintų savo įpėdinio. Šie ginčai dėl religinės ir politinės lyderystės sukeltų susiskaldymą musulmonų bendruomenėje. Dauguma pripažino pirmųjų keturių lyderių teisėtumą ir tapo žinomi kaip sunitai. Mažuma nesutinka ir mano, kad tik Ali ir kai kurie jo palikuonys turėtų valdyti; jie tapo žinomi kaip šiitai. Kharijitai nesugebėjo paskirti savo kalifo, nes kandidatai buvo lengvai kaltinami nuodėmėmis ir laikomi apostais. Mu'awija paskyrė savo sūnų, Yazidą I, įpėdiniu, o po Mu'awijos mirties 680 m. prasidėjo "antrasis pilietinis karas", kuriame Huseinas ibn Ali buvo nužudytas Karbalos mūšyje, kuris buvo svarbus šiitų islamo įvykis. Sunitų islamas ir šiitų islamas kai kuriais atžvilgiais skiriasi.