Formada a partir de milicias existentes anteriores, o seu propósito orixinal era defender os asentamentos xudeus dos ataques árabes, como os disturbios de 1920, 1921, 1929
e durante a revolta árabe de 1936-1939 en Palestina. Estaba baixo o control da Axencia Xudea, o corpo oficial do goberno encargado da comunidade xudía de Palestina durante o Mandato Británico. Ata o final da Segunda Guerra Mundial, as actividades da Haganah foron moderadas, de acordo coa política de havlaga ("autocontrol"), que causou a división dos máis radicais Irgun e Lehi. O grupo recibiu apoio militar clandestino de Polonia. A Haganah buscou a cooperación cos británicos no caso dunha invasión do Eixo de Palestina a través do norte de África, o que levou á creación do grupo de traballo Palmach en 1941.