Nushi gimė albanų ortodoksų tėvams Vuno, kaime prie Himaros pakrantės. Jaunystėje jis lankė gimnaziją. 1928 m. dėl ekonominių sunkumų namuose kartu su tėvu emigravo į Lioną, Prancūziją, kur dirbo gamykloje. Tokiomis sąlygomis jis įsitraukė į kairiųjų pažiūrų veiklą tarp emigruotų albanų intelektualų ir 1935 m. tapo Prancūzijos komunistų partijos nariu. Atsakymas į Italijos invaziją į Albaniją
1939 m. grįžo į Albaniją, kur tapo Komunistų partijos įkūrėju ir aktyviai dalyvavo partizanų pasipriešinime per Antrąjį pasaulinį karą. Per visą šį laikotarpį jis vadovavo Tiranos partijos organizacijai, pasinaudodamas savo ankstesne patirtimi tarp Prancūzijos darbininkų klasės, organizuodamas albanų darbininkus ir jaunimą pasipriešinimui, o okupacinės institucijos jį laikinai areštavo ir paleido. Vėliau jis tarnavo politinėse pozicijose Pirmojoje, Antrojoje ir Ketvirtojoje kovinėse divizijose.