Nushi fæddist í albönskum rétttrúnaðarlegum foreldrum í Vuno, þorpi við strönd Himara. Hann fór í leikskóla í æsku. Árið 1928 flutti hann með föður sínum til útlanda vegna efnahagslegra erfiðleika heima og settist að í Lyons í Frakklandi, þar sem hann vann sem verksmiðjuverkamaður. Í þessum aðstæðum tók hann þátt í vinstri starfsemi meðal albanískra hugsuðumanna í útlegð og árið 1935 varð hann aðili að Franska kommúnistaflokknum. Í svör við innrás Ítalíu í Albaníu
Árið 1939 kom hann aftur til landsins ári síðar, þar sem hann varð stofnfélagi kommúnistaflokksins í Albaníu og gegndi virku hlutverki í andstöðu flokksmanna í seinni heimsstyrjöldinni. Hann stýrði flokksstofnuninni í Tirana á þessu tímabili og notaði fyrri reynslu sína meðal franska verkalýðsins til að skipuleggja albanska verkamenn og ungmenni fyrir andstöðu og var af og til handtekinn og sleppt af yfirvöldum í starfinu. Hann starfaði síðar í pólitískum stöðum innan fyrstu, annarri og fjórðu bardagadeildarinnar.