Po Haruno mirties 809 m. al-Abbasas iš pradžių buvo įdarbintas jo įpėdinio al-Amino, kad jis veiktų kaip emisaras al-Ma'munui Chorasane, tačiau augančio konflikto viduryje
Tarp dviejų brolių jis buvo greitai įtikintas pakeisti pusę ir pasiūlyti savo ištikimybę al-Ma'mun vietoj. 812 m. Kovo mėn. Jis dalyvavo nesėkmingame al-Husayn ibn Ali ibn Isa perversme, kuriame jis buvo atsakingas už asmeninį al-Amino ir jo motinos Zubaydah bint Ja'far sulaikymą, o vėliau jis buvo išrinktas vadovauti pirmiems piligrimams, vyktiems al-Ma'mun vardu 812, 813 ir 814 m.