Despois dos disturbios árabes de 1920 e os disturbios de Jaffa de 1921, os líderes xudeus en Palestina creron que os británicos (a quen a Liga das Nacións lles dera un mandato sobre Palestina en 1920 co propósito de establecer un fogar nacional xudeu) non tiñan desexo de enfrontarse ás bandas árabes locais polos seus ataques contra os xudeus palestinos. Ao darse conta de que non podían confiar na administración británica para a protección contra estas bandas, os líderes xudeus crearon a Haganah para protexer as súas granxas e kibutzim. Ademais de gardar as comunidades xudías, o papel da Haganah era advertir aos residentes e repeler os ataques dos árabes palestinos. No período comprendido entre 1920 e 1929, a Haganah carecía dunha forte autoridade central ou coordinación. As "unidades" da Haganah estaban moi localizadas e mal armadas: consistían principalmente en agricultores xudeus que se turnaban para gardar as súas granxas ou os seus kibutzim. Despois das masacres árabes de 1929
, o papel da Haganah cambiou dramaticamente. Converteuse nunha organización moito máis grande que incluía a case todos os mozos e adultos dos asentamentos xudeus, así como miles de membros das cidades. Tamén adquiriu armas estranxeiras e comezou a desenvolver talleres para crear granadas de man e equipos militares sinxelos, transformándose dunha milicia non adestrada nun exército clandestino capaz.