Nushi syntyi albanialaisille ortodoksisille vanhemmille Vunossa, kylässä Himaran rannikolla. Hän kävi nuoruudessaan peruskoulua. Vuonna 1928 hän muutti maahan isänsä kanssa taloudellisten vaikeuksien vuoksi kotona ja asettui asumaan Lyonissa Ranskassa, jossa hän työskenteli tehdasmiehenä. Tällaisissa olosuhteissa hän osallistui vasemmistolaiseen toimintaan maahanmuuttajana olevien albanialaisten intellektuellien keskuudessa ja vuonna 1935 hänestä tuli Ranskan kommunistisen puolueen jäsen. Vastauksena Italian Albanian valloitukseen
Vuonna 1939 hän palasi maahan vuoden kuluttua, jossa hänestä tuli Albanian kommunistisen puolueen perustajajäsen ja toimi aktiivisesti puolueen vastarinnassa toisen maailmansodan aikana. Hän johti Tiranan puoluejärjestöä koko tämän ajanjakson ajan, käyttäen aikaisempaa kokemustaan ranskalaisen työväenluokan keskuudessa organisoidakseen albanialaisia työläisiä ja nuoria vastarintaan, ja hänet pidätettiin ja vapautettiin väliaikaisesti miehitysviranomaisten toimesta. Myöhemmin hän palveli poliittisissa tehtävissä ensimmäisessä, toisessa ja neljännessä taisteluliivistossa.