A fost primul antrenor al echipei naționale israeliene (care a durat trei ani), a jucat de două ori la EuroBasket (1985, 1987) și a obținut locul al șaptelea la Campionatul Mondial de Baschet din 1986. Mandatul lui Sherf ca antrenor șef al echipei naționale s-a încheiat după ceea ce a fost perceput ca o performanță slabă la EuroBasket 1987.
(11 poziție), dar Sherf a revenit mai târziu ca antrenor șef al echipei pentru anii 1991-97. În 2005, Sherf a fost numit din nou antrenor-șef al echipei naționale de baschet israeliene, iar la 1 ianuarie 2008, a fost numit antrenor-șef al echipei Maccabi Tel Aviv.