Adolf Abramovich Joffe gimė Simferopole, Kryme, Rusijos imperijoje, turtingoje karaitų šeimoje. 1900 m. jis tapo socialdemokratas, dar mokydamasis vidurinėje mokykloje, 1903 m. oficialiai prisijungė prie Rusijos socialdemokratų darbo partijos. 1904 m. Joffe buvo išsiųstas į Baku, iš kurio turėjo pabėgti, kad nebūtų areštuotas. Tada jis buvo išsiųstas į Maskvą, bet vėl turėjo pabėgti, šį kartą į užsienį. Po kruvinos sekmadienio įvykių
1905 m. Sausio 9 d. Džofė grįžo į Rusiją ir aktyviai dalyvavo 1905 m. Rusijos revoliucijoje. 1906 m. pradžioje jis buvo priverstas emigruoti ir gyveno Berlyne iki 1906 m. gegužės mėn.