१९८० च्या दशकाच्या मध्यात गुजराल यांनी कॉंग्रेस पक्ष सोडून जनता दलात प्रवेश केला. इ.स. १९८९ च्या लोकसभा निवडणुकीत ते पंजाबमधील जालंधर लोकसभा मतदारसंघातून निवडून गेले. १९८९ मधील निवडणुकीनंतर पंतप्रधान झालेल्या विश्वनाथ प्रताप सिंग यांनी त्यांना भारताचे परराष्ट्रमंत्री म्हणून नेमले. ऑंगस्ट इ.स. १९९०मध्ये सद्दाम हुसेन यांच्या इराकने कुवैतवर आक्रमण करून तो देश काबीज केला. त्यानंतर भारताचे प्रतिनिधी म्हणून गुजराल यांनी स्वतः हुसेन यांची बगदादमध्ये भेट घेतली. त्या भेटीदरम्यान त्यांनी हुसेन यांना मारलेली औपचारिक मिठी वादग्रस्त ठरली.

इ.स. १९९१च्या मध्यावधी लोकसभा निवडणुकीत त्यांनी बिहारमधील पाटणा मतदारसंघातून चंद्रशेखर सरकारमधील अर्थमंत्री यशवंत सिन्हा यांच्याविरुद्ध निवडणूक लढवली. मतदानादरम्यान मोठया प्रमाणावर गैरप्रकार झाल्यामुळे ती निवडणूक रद्द झाली.

इ.स. १९९२मध्ये गुजराल जनता दलाच्या तिकिटावर बिहारमधून राज्यसभेवर निवडून गेले. त्यानंतर त्यांची गणना जनता दलाच्या प्रमुख नेत्यांमध्ये होऊ लागली. इ.स. १९९६मधील निवडणुकीनंतर केंद्रात श्री.एच.डी.देवेगौडा यांच्या नेतृत्वाखाली संयुक्त आघाडीचे सरकार बनले. पंतप्रधान देवेगौडा यांनी गुजराल यांना पुन्हा एकदा भारताचे परराष्ट्रमंत्री म्हणून नेमले. आपल्या परराष्ट्रमंत्रीपदाच्या दुसऱ्या कारकिर्दीदरम्यान त्यांनी शेजारी देशांशी संबंध सुधारण्यावर जोर दिला. परराष्ट्रमंत्री गुजराल आणि पंतप्रधान देवेगौडा यांच्या प्रयत्नांमुळे बांगलादेशबरोबर अनेक वर्षे अनिर्णिणीत राहिलेल्या गंगा पाणीवाटपाच्या प्रश्नावर दोन्ही बाजूंना मान्य असा तोडगा निघाला.

पंतप्रधानपदानंतर
राजकीय कारकीर्द
राजकारणातील दुसरा डाव
पंतप्रधान