Adolf Abramovich Joffe fæddist í Simferopol, Krím, Rússneska keisaradæmi í ríkri karíafjölskyldu. Hann varð sósíaldemókrati árið 1900 meðan hann var enn í menntaskóla og gekk formlega í rússneska sósíaldemókratalega verkalýðsflokknum árið 1903. Árið 1904 var Joffe sendur til Baku, sem hann varð að flýja til að forðast handtöku. Hann var síðan sendur til Moskvu, en varð að flýja aftur, í þetta sinn erlendis. Eftir atburđiđ á Blóđnum sunnudegi
9. janúar 1905 sneri Joffe aftur til Rússlands og tók virkan þátt í rússnesku byltingunni 1905. Í byrjun árs 1906 var hann neyddur til að flytja og bjó í Berlín þar til hann var rekinn úr Þýskalandi í maí 1906.