Ben-Zvi va ser actiu en les unitats d'autodefensa jueves organitzades a Ucraïna per defensar els jueus durant els pogroms de 1905, i es va unir al partit polític sionista Poale. Va emigrar a Palestina el 1907, instal·lant-se a Jaffa, i més tard el mateix any va ser un representant en el Congrés sionista a La Haia. Va ser allà on va conèixer per primera vegada Israel Shochat. "Bar-Giora", el precursor clandestí de Hashomer, va ser creat al seu apartament el 1907.
Rachel Yanait