Levin werd geboren op 10 januari 1902 in een boerenfamilie van Russische afkomst in het dorp Antsir in Yeniseysk Governorate. Hij studeerde in 1919 af van zeven klassen. Levin werd opgeroepen in het Rode Leger in 1921. In december 1922 studeerde hij af aan de 26e Krasnoyarsk Infanterie School. Hij werd een junior commandant in het 3rd Shock Regiment van het Pacific Corps bij Vladivostok. In 1923 ging Levin naar de Vladivostok Infantry School, waar hij in 1926 afstudeerde. Hij werd een pelotoncommandant en machinegeweercommandant in het 76e Rifle Regiment van de 26e Rifle Division bij Nikolsk-Ussurisky. Hij vocht in het Chinees-Sovjet conflict.
van 1929. Levin werd gedemobiliseerd in april 1932.