Po Haruno mirties Chorasane 809 m. pradžioje, Abdallahas liko provincijoje, prisijungdamas prie Haruno antrosios paveldėtojo al-Ma'mun (r. 813833), Marw. Vėlesniame pilietiniame kare
Tarp al-Ma'mun ir jo pusbrolis, kalifas al-Amin (r. 809<unk>813 m.), jis iš esmės liko Marūje. Jis buvo vienas iš kelių karinių vadų, kurie atsisakė vadovauti al-Ma'mun vyriausybei, o šis postas galiausiai atiteko Fadl ibn Sahl. Jo santykiai su al-Ma'mun buvo įtempti, tačiau jis lydėjo jį į vakarus ir buvo su juo, kai jis įžengė į Bagdadą 819 metais.