জিল্লুর রহমান ১৯৫৪ সালে যুক্তফ্রন্টের নির্বাচনে বৃহত্তর ময়মনসিংহ জেলা নির্বাচন পরিচালনা কমিটির ভাইস চেয়ারম্যান ছিলেন। ১৯৫৬ সালে কিশোরগঞ্জ আওয়ামী লীগের সভাপতি নির্বাচিত হন। কিশোরগঞ্জ আওয়ামী লীগের প্রতিষ্ঠাতা সভাপতি ছাড়াও জিল্লুর রহমান আওয়ামী লীগের সাধারণ সম্পাদক, সভাপতিমণ্ডলীর সদস্যসহ বিভিন্ন সময়ে দলের গুরুত্বপূর্ণ দায়িত্বে ছিলেন। ১৯৬২ সালে সামরিক শাসন বিরোধী আন্দোলন, ১৯৬৬ সালের ৬ দফা আন্দোলন, ১৯৬৯ সালের গণঅভ্যুত্থানসহ বিভিন্ন গণ-আন্দোলনে সক্রিয় অংশগ্রহণ করেন। ১৯৭০ সালে তিনি পাকিস্তান জাতীয় পরিষদের সদস্য (এমএনএ) নির্বাচিত হন। ১৯৭২ সালে জিল্লুর রহমান প্রথম আওয়ামী লীগের সাধারণ সম্পাদক নির্বাচিত হন। পরবর্তীতে তিনি আবারো ১৯৭৪, ১৯৯২ ও ১৯৯৭ সালে বাংলাদেশ আওয়ামী লীগের সাধারণ সম্পাদক নির্বাচিত হন। ৭২ সালে তিনি গণপরিষদ সদস্য হিসেবে সংবিধান প্রণয়নে অংশ নেন। ১৯৭৩ সালে জাতীয় সংসদের সদস্য নির্বাচিত হন। ১৯৭৫ সালে বাংলাদেশ কৃষক শ্রমিক আওয়ামী লীগের পলিটব্যুরো ও কেন্দ্রীয় কমিটির সদস্য নির্বাচিত হন। ১৯৮১ সাল থেকে তিনি আওয়ামী লীগ প্রেসিডিয়ামের দায়িত্ব পালন করেন। ২০০৮ সালের নবম জাতীয় সংসদ নির্বাচনসহ '৭৩, '৮৬, '৯৬ ও ২০০১ সালের জাতীয় সংসদ নির্বাচনে কিশোরগঞ্জ-৬ (সংসদীয় আসন ১৬৭, কুলিয়ারচর-ভৈরব) থেকে জিল্লুর রহমান সংসদ সদস্য নির্বাচিত হন। '৯৬-এর আওয়ামী লীগ সরকারের শাসনামলে তিনি স্থানীয় সরকার, পল্লী উন্নয়ন ও সমবায় মন্ত্রনালয় (এলজিআরডি) এর মন্ত্রী হিসেবে দায়িত্ব পালন করেন। ২০০৬ সালের ১১ জানুয়ারি তত্ত্বাবধায়ক সরকার দায়িত্ব নিলে যখন শেখ হাসিনা গ্রেফতার হন তারপর থেকেই জিল্লুর রহমান বাংলাদেশ আওয়ামী লীগের হাল ধরেন।

বাংলাদেশের রাষ্ট্রপতি
দেহাবসান
রাজনৈতিক জীবন
প্রারম্ভিক জীবন