Ljúktu eftirfarandi setningu: Árið 800 var Abd al-Malik einnig settur sem kennari yfir al-Qasim, syni Haruns. Stærð hans og áhrif í hernum gerðu að verkum að Harun treysti honum ekki og árið 803 var hann handtekinn og kastaður í fangelsi. Raunveruleikinn er enn óljós, þó að flestar heimildir séu sammála um að eigin sonur hans, Abd ar-Rahman, hafi tilkynnt khalifanum að hann ætlaði að steypa honum. Abd al-Malik var áfram í fangelsi þar til Harun dó sex árum síðar, þegar kalifinn al-Amin (r. 809<unk>813) sleppti honum.
Eldri hálfbróðir hans, al-Ma'mun, barðist um að taka við af Al-Amin og ófriður ríkti í Sýrlandi. Abd al-Malik hafði enn mikil áhrif á landamærasveitirnar og því var hann ráðinn landstjóri Sýrlands og Efri Mesópótamíu og falið að tryggja þessi svæði fyrir al-Amin og hækka hermenn til að takast á við al-Ma'mun. Skömmu eftir að Abd al-Malik kom til Raqqa varð hann hins vegar veikur og dó. Gráf hans var rifið nokkrum árum síðar af sigursríkum al-Ma'mun, væntanlega vegna þess að Abd al-Malik hafði svorið að samþykkja aldrei stjórn al-Ma'mun.