Hänen ensimmäinen Israelin maajoukkueen valmentaja-aika (joka kesti kolme vuotta), näki kaksi EuroBasketin esiintymistä (1985, 1987) ja Israelin historiallisen 7. sijan vuoden 1986 FIBA-maailman koripallo-mestaruudessa. Sherfin asema maajoukkueen päävalmentajana päättyi huonon suorituksen jälkeen EuroBasketissa 1987.
11. sijalla, mutta Sherf palasi myöhemmin joukkueen päävalmentajana vuosina 1991-97. Vuonna 2005 Sherf nimitettiin jälleen Israelin koripallojoukkueen päävalmentajaksi, ja 1. tammikuuta 2008 hänet nimitettiin Maccabi Tel Avivin päävalmentajaksi.