Na de Duitse invasie van Griekenland in 1941 brachten de nazi-Duitsers hem naar het concentratiekamp Dachau, waar hij in mei 1945 werd vrijgelaten. Na zijn terugkeer in Griekenland nam hij de leiding van de KKE over van Georgios Siantos, waarnemend secretaris-generaal van de KKE sinds januari 1942. De verdomde Dekemvriana.
De gebeurtenis was net geëindigd met een communistische nederlaag. Zachariadis verklaarde nu zijn politieke intentie voor de KKE om te strijden voor democratie en de macht van het volk door middel van verkiezingen.