En 1991, Erekat fue jefe adjunto de la delegación palestina en la
Conferencia de Madrid y las conversaciones de seguimiento en Washington D.C. entre 1992 y 1993. En 1994, fue nombrado Ministro de Gobierno Local de la Autoridad Nacional Palestina y también Presidente de la delegación palestina de negociación. En 1995, Erekat se desempeñó como negociador jefe para los palestinos durante el período de Oslo. Luego fue elegido para el Consejo Legislativo Palestino en 1996, representando a Jericó. Como político, Erekat fue considerado un leal a Yasser Arafat, incluidas las reuniones de Camp David en 2000 y las negociaciones de Taba en 2001. Erekat también fue, junto con Arafat y Faisal Husseini, uno de los tres palestinos de alto rango que pidieron a Ariel Sharon que no visitara la Mezquita Al-Aqsa en septiembre de 2000, un evento que fue seguido por la Segunda Intifada. También actuó como intérprete en inglés de Arafat. Cuando Mahmoud Abbas fue nominado para servir como Primer Ministro del Consejo Legislativo Palestino a principios de 2003, Erekat estaba programado para ser Ministro de Negociaciones en el nuevo gabinete, pero pronto renunció después de ser excluido de una delegación para reunirse con el Primer Ministro israelí Ariel Sharon. Esto fue interpretado como parte de una lucha de poder palestina interna entre Abbas y Arafat. Más tarde, Erekat fue reelegido a su cargo y participó en la Conferencia de Annapolis de 2007, donde asumió el cargo de Ahmed Qurei durante un punto muerto y ayudó a elaborar una declaración conjunta.