Stein var fæddur í fjölskyldu Nathan Stein og Anna Hirschler, gyðinga hjóna sem bjuggu í Búdapest í Austurríki og Ungverjalandi. Foreldrar hans og systir hans héldu áfram gyðingatrú sinni en Stein og bróðir hans, Ernst Eduard, voru skírðir sem lútherar, að öllum líkindum til að frelsa þá frá andsemítanum sem hefði neitað þeim aðgengi að menntun og framgangi. Í heimilinu talaði fjölskyldan þýsku og ungversku, tungumál ungversku þjóðernislega endurvakningarinnar á 19. öld, og Stein var stolt af þessum arfleifð fyrir það sem eftir lifði. Hann sótti kaþólska og lúthersk íþróttaskóla í Búdapest, þar sem hann meistaraði grísku, latínu, frönsku og ensku áður en hann fór í háskóla í Vín, Leipzig og Tübingen.
Gyðingur