Post la 1920-aj arabaj tumultoj kaj la 1921-aj Jaffaj tumultoj, la juda gvidado en Palestino kredis, ke la britoj (al kiuj la Ligo de Nacioj donis mandaton super Palestino en 1920 por la celo de establado de juda nacia hejmo) ne havis deziron alfronti lokajn arabajn bandojn pro iliaj atakoj kontraŭ palestinaj judoj. Ekkomprenante ke ili ne povis fidi je la brita administracio por protekto kontraŭ tiuj bandoj, la juda gvidado kreis la Haganah por protekti siajn bienojn kaj kibucitojn. Aldone al gardado de judaj komunumoj, la rolo de la Haganah estis averti la loĝantojn de kaj repeli atakojn de palestinaj araboj. En la periodo inter 1920 kaj 1929, al la Haganah mankis forta centra aŭtoritato aŭ kunordigo. Haganaj "unuoj" estis tre lokalizitaj kaj malbone armitaj: ili konsistis plejparte el judaj farmistoj kiuj turniĝis por gardi siajn bienojn aŭ siajn kibucojn. Sekvante la arabajn masakrojn de 1929
La rolo de la Haganah ŝanĝiĝis dramece. Ĝi iĝis multe pli granda organizo, kiu ampleksis preskaŭ ĉiujn junulojn kaj plenkreskulojn en la judaj setlejoj, kaj ankaŭ milojn da membroj el la urboj. Ĝi ankaŭ akiris eksterlandajn armilojn kaj komencis disvolvi laborrenkontiĝojn por krei mangranatojn kaj simplan armean ekipaĵon, transformiĝante de netrejnita milico al kapabla subtera armeo.