Í febrúar 2005 ákvað Shaul Mofaz varnarmálaráðherra að framlengja ekki störf Ya'alons sem yfirmanns liðsins í eitt ár. Þetta markaði hápunkt spennu milli Mofaz og Ya'alon, sem hafði komið upp að hluta vegna andmæla Ya'alon á
Áætlun um að losna frá Gaza. Þann 1. júní 2005 dró Ya'alon sig úr hernum og Dan Halutz, eftirmaður hans sem yfirmaður herforingja, sá um að fjarlægja herinn.