In februari 2005 besloot minister van Defensie Shaul Mofaz Ya'alon's dienst als stafchef niet nog een jaar te verlengen. Dit markeerde het hoogtepunt van de spanningen tussen Mofaz en Ya'alon, die deels waren ontstaan door Ya'alons bezwaar tegen het Gaza-ontbindingsplan.
Ik weet het. Op 1 juni 2005 ging Ya'alon met pensioen uit het leger en Dan Halutz, zijn opvolger als stafchef, hield toezicht op de terugtrekking.