Stein naceu de Nathan Stein e Anna Hirschler, unha parella xudía residente en Budapest no Imperio austrohúngaro. Os seus pais e a súa irmá mantiveron a súa fe xudía, pero Stein e o seu irmán, Ernst Eduard, foron bautizados como luteranos, aparentemente para liberalos do antisemitismo que lles negaría o acceso á educación e o avance. Na casa, a familia falaba alemán e húngaro, a lingua do renacemento nacionalista húngaro no século XIX, e Stein estaba orgulloso desta herdanza para o resto da súa vida.
Grego, latín, francés e inglés