वह महात्मा गांधी के कंधे से कंधा मिलाकर अंग्रेज़ों के ख़िलाफ़ लड़े, चाहे असहयोग आंदोलन हो या फिर नमक सत्याग्रह, या फिर 1942 का भारत छोड़ो आंदोलन हो. उन्होंने गांधी जी के हर आंदोलन में बढ़-चढ़कर शिरकत की. नेहरू की विश्व के बारे में जानकारी से गांधी जी काफ़ी प्रभावित थे और इसलिए आज़ादी के बाद वह उन्हें प्रधानमंत्री पद पर देखना चाहते थे. 1920 में उन्होंने उत्तर प्रदेश के प्रतापगढ़ ज़िले में पहले किसान मार्च का आयोजन किया. वह 1923 में अखिल भारतीय कांग्रेस समिति के महासचिव चुने गए. गांधी जी ने यह सोचकर उन्हें यह पद सौंपा कि अतिवादी वामपंथी धारा की ओर आकर्षित हो रहे युवाओं को नेहरू कांग्रेस आंदोलन की मुख्यधारा में शामिल कर सकेंगे.