Borodin var fæddur Mikhail Markovich Gruzenberg () í gyðingafjölskyldu í Yanovichi, Rússlandsveldi, nú hluti af Vitebsk svæði, Hvíta-Rússland, 9. júlí 1884. Þegar hann var mjög ungur hóf hann að vinna sem bátamaður á Vestur-Dvinafljóti, þar sem hann sigldi á milli Vitebsk, Dvinsk og Riga, núverandi höfuðborgar Lettlands. Síðar flutti hann til Ríga þar sem hann gekk í rússneskum skóla á kvöldin á meðan hann vann í höfn borgarinnar. Hann gekk til liðs við Gyðingaverkalýðshópinn þegar hann var sextán ára gamall og breytti trúnaði við bolsjevíka Vladimir Leníns árið 1903. Hann varð náinn samstarfsaðili Leníns og notaði þekkingu sína á jiddísku, þýsku og lettnesku til að starfa sem bolsjevískur umboðsmaður í norðvesturhluta heimsveldisins. Um miðjan 1904, var honum skipað að fara til Sviss til að hitta Lenin, sem hafði farið í útlegð. Eftir "Blóðlegan sunnudag" þar sem óvopnaðir mótmælendur voru drepnir af sáraherjum í Pétursborg þann 9. janúar 1905 sneri Borodin aftur til Rússlands, skipulagði byltingarstarf í Riga og var síðar valinn til að taka þátt í bolsjevískri ráðstefnu.
Hann hitti Jósef Stalín í Tampere.