Vuonna 1921 Sadeh oli Haganahin (puolustus) komentaja Jerusalemissa. Vuoden 1929 mellakoiden aikana
Hän osallistui Haifan puolustukseen. Kun vuonna 1936-1939 Palestiinan arabit kapinoivat, Sadeh perusti Nodedet ("vaeltavat joukot" tai "Patrolointiyksikkö") Jerusalemissa, joka kohtasi arabeja heidän kylissään ja tukikohdissaan. Hän vaati joukkojaan "lähtemään puolustuksesta" ja aloittamaan sotilaalliset operaatiot.