Ephraim Elimelech Urbach urodził się w Białystoku w rodzinie hasydzkiej. Studiował w Rzymie i w Breslau, gdzie otrzymał święcenie rabina. Imigrował do Mandatowej Palestyny w 1937 roku. Służył jako rabin w armii brytyjskiej podczas II wojny światowej. Brał również udział w izraelskiej wojnie o niepodległość w 1948 roku.
Następnie pracował w kilku instytucjach edukacyjnych, zanim dołączył do wydziału Uniwersytetu Hebrajskiego w 1953 roku.