בורודין נולד בשם מיכאיל מרקוביץ' גרוזנברג (באנגלית: Mikhail Markovich Gruzenberg) למשפחה יהודית בינוביצ'י, האימפריה הרוסית, כיום חלק מאזור ויטבסק, בלארוס, ב-9 ביולי 1884. בגיל צעיר מאוד החל לעבוד כספסול בדרווינה המערבית. הוא חצה את החלק של הנהר שבין ויטבסק, דווינסק וריגה, שכיום היא בירת לטביה. מאוחר יותר הוא עבר לריגה, שם למד בבתי ספר לילה בשפה הרוסית תוך כדי עבודה בנמל העיר. הוא הצטרף לבונד העבודה היהודי הכללי בגיל שש עשרה, והחלף את נאמנותו לבולשביקים של ולדימיר לנין בשנת 1903. הוא הפך לשותף קרוב של לנין, תוך שימוש בידע שלו בשפות יידיש, גרמנית ולטיבית בעבודה כסוכן בולשביקי באזור הצפון-מערבי של האימפריה. באמצע 1904, הוא קיבל פקודה לנסוע לשווייץ לפגוש את לנין, שהלך לגלות. בעקבות טבח "יום ראשון הדם" של מפגינים לא חמושים על ידי כוחות הצאריים בסנט פטרסבורג ב-9 בינואר 1905, חזר בורודין לרוסיה, ארגן פעילות מהפכנית בריגה, ומאוחר יותר נבחר להשתתף בכנס הבולשביקי
בטמפרה, שם פגש את יוסף סטאלין.