Ben-Zvi oli aktiivinen juutalaisten itsepuolustusyksiköissä, jotka järjestettiin Ukrainassa puolustamaan juutalaisia vuoden 1905 pogromeissa, ja liittyi Poale-sionistiseen poliittiseen puolueeseen. Hän muutti Palestiinaan vuonna 1907 ja asettui Jaffaan, ja myöhemmin samana vuonna hän oli edustaja sionistisessa kongressissa Haagissa. Siellä hän tapasi ensimmäisen kerran Israel Shochatin. "Bar-Giora", Hashomerin salainen edeltäjä, luotiin hänen asunnossaan vuonna 1907. Vuonna 1909 hän järjesti Gymnasia Rehavia -korkeakoulun Jerusalemin Bukharimin alueella yhdessä Rachel Yanaitin kanssa. Kysymys: kuka auttoi häntä organisaation kanssa?
Rachel Yanait