V roku 1991 bol opäť členom izraelského mierového vyjednávacieho tímu, ktorý cestoval ako súčasť izraelskej delegácie na Madridskú mierovú konferenciu
To otvorilo rokovania (v ktorých pôsobil ako predseda izraelskej delegácie), ktoré nakoniec viedli k dohodám z Osla z roku 1993, ktoré boli významným prelomom v izraelsko-palestínskom konflikte.