După revoltele arabe din 1920 și revoltele de la Jaffa din 1921, conducerea evreiască din Palestina a crezut că britanicii (pe care Liga Națiunilor i-a dat mandat asupra Palestinei în 1920 în scopul de a stabili o casă națională evreiască) nu aveau nici o dorință de a se confrunta cu bandele arabe locale pentru atacurile lor asupra evreilor palestinieni. Realizând că nu se puteau baza pe administrația britanică pentru protecție împotriva acestor bande, conducerea evreiască a creat Haganah pentru a-și proteja fermele și kibutzim-urile. În plus față de paza comunităților evreiești, rolul Haganahului a fost să avertizeze rezidenții și să respingă atacurile arabilor palestinieni. În perioada cuprinsă între 1920 și 1929, Haganah nu avea o autoritate centrală puternică sau o coordonare. "Unitățile" Haganah erau foarte localizate și slab înarmate: erau alcătuite în principal din fermieri evrei care își păzeau la rând fermele sau kibuțurile. În urma masacrelor arabe din 1929
, rolul Haganah s-a schimbat dramatic. A devenit o organizaţie mult mai mare, care cuprindea aproape toţi tinerii şi adulţii din coloniile evreieşti, precum şi mii de membri din oraş. De asemenea, a achiziționat arme străine și a început să dezvolte ateliere pentru a crea grenade de mână și echipamente militare simple, transformându-se dintr-o miliție netrenată într-o armată subterană capabilă.