După moartea lui Harun în 809, al-Abbas a fost angajat inițial de succesorul său al-Amin pentru a acționa ca emisar al-Ma'mun în Khurasan, dar în mijlocul conflictului în creștere
Între cei doi fraţi, a fost convins să schimbe tabăra şi să-i ofere loialitatea lui al-Ma'mun. În martie 812 a participat la lovitura de stat eșuată a lui al-Husayn ibn Ali ibn Isa, în care a fost responsabil pentru arestarea personală atât a lui al-Amin, cât și a mamei sale, Zubaydah bint Ja'far, și a fost ulterior selectat pentru a conduce primele pelerinaje întreprinse în numele lui al-Ma'mun, în 812, 813 și 814.