Escriba unha continuación para este parágrafo - Os membros de Jaysh al-Ummah afirmaron que o seu grupo foi fundado en 2005. Con todo, os investigadores dataron o seu comezo en vez de 2007 ou 2008. Desde a súa fundación, o grupo centrou-se principalmente no lanzamento de foguetes e outros explosivos ao territorio israelí. En xaneiro de 2008, o grupo anunciou que planeaba asasinar ao presidente dos Estados Unidos George W. Bush. O 1 de setembro de 2008, o grupo organizou a súa primeira "sesión de adestramento público" no sur de Gaza, aproveitando a oportunidade para criticar o goberno de Hamas de Gaza. Dous días despois, Hamas prendeu o líder de Jaysh al-Ummah, Abu Hafs al-Maqdisi, o que levou ao grupo a ameazar con respostas violentas a menos que o seu comandante fose liberado. Posteriormente, os dous lados convertéronse en hostiis, con Jaysh al-Ummah ignorando calquera acordo de alto o fogo acordado entre Hamas e Israel, mentres que Hamas arrestaría repetidamente aos membros de Jaysh al-Ummah. Con todo, os dous grupos abstéronse de loitar abertamente. Jaysh al-Ummah loitou no conflito de Gaza de 2012
e a guerra de Gaza de 2014 contra Israel.