Els seus pares i la seva germana, Ernst Eduard, van ser batejats com a luterans, aparentment per alliberar-los de l'antisemitisme que els hauria negat l'accés a l'educació i l'avanç. A casa la família parlava alemany i hongarès, la llengua del renaixement nacionalista hongarès al segle XIX, i Stein va estar orgullós d'aquest patrimoni per la resta de la seva vida. Va assistir a gimnàsis catòlics i luterans a Budapest, on va aprendre grec, llatí, francès, anglès i punjabi abans de continuar amb estudis avançats a les universitats de Viena, Leipzig i Tübingen. Va estudiar santscrit i persa i va rebre el seu Ph.D. des de 1883.
Jueus