Na bezoeken aan Afrika, waaronder Mali en Algerije, verhuisde Halevi in 1965, op 22-jarige leeftijd, naar Israël. Hij zou gezegd hebben: "Ik ben naar Israël gekomen omdat ik in Algerije het belang van het Palestijnse probleem heb ontdekt. Ik zat daar in koffiehuizen, ik hoorde mensen, ik sprak met intellectuelen en ik begreep dat de Palestijnse kwestie de mensen van de Arabische wereld bezighoudt. Het is echt het middelpunt van hun obsessies. Ik besloot dat ik deze realiteit van dichtbij en van binnenuit wilde bestuderen... Ik wilde de Israëlische realiteit bestuderen". Halevi trad na de Arabisch-Israëlische oorlog van 1967 toe tot de Palestijnse verzetsbeweging en met name Fatah, en werd vervolgens een prominent lid van de PLO. Hij was de vertegenwoordiger van de PLO in Europa en bij de Socialistische Internationale sinds 1983, voormalig vice-minister van Buitenlandse Zaken van de PLO en nam in die hoedanigheid deel aan de Conferentie van Madrid van 1991.
Ik weet het. Hij was ook lid van de Fatah Revolutionaire Raad, gekozen in 2009, en diende als adviseur van Yasser Arafat.