Chernenko gekk til liðs við Komsomol (Communist Youth League) árið 1929 og varð fullgildur meðlimur í kommúnistaflokknum árið 1931. Frá 1930 til 1933 þjónaði hann í sovésku landamæraverðum á sovéska-kínverska landamærunum. Eftir að hafa lokið herþjónustu sinni sneri hann aftur til Krasnoyarsk sem áróðursmaður. Árið 1933 starfaði hann í áróðursdeild Novosyolovsky District Party Committee. Nokkrum árum síðar var hann kynntur sem yfirmaður sömu deildar í Uyarsk Raykom. Chernenko hækkaði síðan stöðugt í flokksflokknum og varð framkvæmdastjóri Krasnoyarsk House of Party Enlightenment, síðan í 1939 varstjóri deildar Agitpropno Krasnoyarsk Territorial Committee og loks í 1941 ritari í Territorial Party Committee for Propaganda. Á áratugnum 1940 stofnaði hann náið samband við Fyodor Kulakov.
Árið 1945