V roce 1991 byl Erekat místopředsedou palestinské delegace na madridské konferenci.
a následné následné rozhovory ve Washingtonu D.C. v letech 1992 a 1993. V roce 1994 byl jmenován ministrem pro místní samosprávu Palestinské národní samosprávy a také předsedou palestinské vyjednávací delegace. V roce 1995 působil Erekat jako hlavní vyjednavač Palestinců během období Osla. V roce 1996 byl zvolen do palestinské legislativní rady, kde zastupoval Jericho. Jako politik byl Erekat považován za loajálního stoupence Jasera Arafata, včetně setkání v Camp Davidu v roce 2000 a jednání v Taba v roce 2001. Erekat byl také spolu s Arafatem a Faisal Husseini jedním ze tří vysoce postavených Palestinců, kteří v září 2000 požádali Ariela Sharona, aby nenavštívil mešitu Al-Aqsa, což byla událost, po které následovala druhá intifáda. Také působil jako Arafatův anglický tlumočník. Když byl Mahmúd Abbás nominován na premiéra palestinské legislativní rady na začátku roku 2003, měl být Erekat ministrem pro jednání v nové vládě, ale brzy rezignoval poté, co byl vyloučen z delegace, která se měla setkat s izraelským premiérem Arielem Šaronem. To bylo interpretováno jako součást vnitřního palestinského boje o moc mezi Abbásem a Arafatem. Později byl Erekat znovu jmenován na svůj post a zúčastnil se Annapoliské konference v roce 2007, kde převzal funkci od Ahmeda Qureiho během slepé uličky a pomohl vypracovávat společnou deklaraci.