Í nóvember 1905 kostuðu georgísku bolsjevíkarnir Stalín sem einn af fulltrúum sínum á bolsjevíka ráðstefnu í Sankt Pétursborg. Þegar hann kom þangað hitti hann eiginkonu Leníns, Nadezhda Krupskaya, sem tilkynnti honum að staðurinn hefði verið fluttur til Tampere í Finnlandi. Á ráðstefnunni
Stalin hitti Lenin í fyrsta sinn. Þrátt fyrir að Stalín sýndi Lenín djúpa virðingu, var hann ekki sammála sjónarmiði Leníns um að bolsjevíkarnir ættu að bjóða fram framboð til komandi kosninga í ríkisþingið; Stalín sá þingferlið sem tímaeyðslu. Í apríl 1906 sótti Stalín fjórða þingið RSDLP í Stokkhólmi; þetta var fyrsta ferð hans utan Rússlandsveldisins. Á ráðstefnunni samþykkti RSDLP - sem þá var undir forystu mennshevíka meirihluta - að það myndi ekki afla fjár með vopnuðum ránum. Lenin og Stalín voru ósammála þessari ákvörðun og ræddu síðar í einrúmi um hvernig þeir gætu haldið áfram ræningjum fyrir málstað bolsjevíkanna.