Fyrsta þjálfaratímabilið hans sem landsliðsþjálfari í Ísrael (sem stóð yfir í þrjú ár) sá tvennt EuroBasket (1985, 1987) og sögulegt 7. sæti Ísraels á FIBA heimsmeistaramótinu í körfubolta 1986. Þjálfun Sherfs sem landsliðsþjálfara lauk eftir það sem var talið vera léleg frammistaða á EuroBasket 1987.
(11. sæti), en Sherf kom síðar aftur sem yfirþjálfari liðsins á árunum 1991-97. Árið 2005 var Sherf aftur ráðinn aðalþjálfari ísraelska landsliðsins í körfubolta og 1. janúar 2008 var hann ráðinn aðalþjálfari Maccabi Tel Aviv.