২০০২ সালের ২১ জুন দলের অভ্যন্তরের অন্যান্য নেতাদের চাপে তিনি রাষ্ট্রপতির পদ হতে পদত্যাগ করেন। তার বিরুদ্ধে অভিযোগ করা হয় যে তিনি এর আগের মাসে বিএনপি র প্রতিষ্ঠাতা জিয়াউর রহমানের মৃত্যুবার্ষিকীতে তার মাজারে না গিয়ে তার প্রতি অশ্রদ্ধা পোষণ করেন। এরপর তিনি তার পুত্র বিএনপি দলীয় সংসদ সদস্য মাহি বি চৌধুরীকে সাথে নিয়ে নতুন রাজনৈতিক দল বিকল্প ধারা গঠন করেন।

সাত মাসাধিককাল রাষ্ট্রপতি হিসেবে দায়িত্ব পালনকালে ৩০ মে ২০০২ তারিখে বিএনপির প্রতিষ্ঠাতা সাবেক রাষ্ট্রপতি জিয়াউর রহমানের মৃত্যুবার্ষিকীতে তিনি রাষ্ট্রপতি হিসেবে নিরপেক্ষ থেকে জিয়াউর রহমানের সমাধি পরিদর্শন না করার সিদ্ধান্ত নেন। তার এই পদক্ষেপে বিএনপি নেতাকর্মীদের মাঝে ক্ষোভ ছড়িয়ে পড়ে। বিএনপির অনেক নেতা তার বিরুদ্ধে বিশ্বাসঘাতকতার অভিযোগ আনেন। সংসদে তার বিরুদ্ধে অভিশংসন প্রস্তাবেরও পরিকল্পনা চলছিল। নিজ দলের মধ্যে বিরাজমান ক্ষোভ ও ক্রমবর্ধমান চাপের মুখে তিনি জুনের ২১ তারিখ বিএনপি সভানেত্রী খালেদা জিয়ার বাসভবনে তার সাথে সাক্ষাত করেন ও পদত্যাগের সিদ্ধান্ত নেন।
প্রেসিডেন্ট পদ থেকে পদত্যাগের পর ড. চৌধুরী বিএনপি থেকেও পদত্যাগ করেন। পরবর্তীকালে মুন্সিগঞ্জ-১ আসন থেকে নির্বাচিত তার পুত্র মাহি বি চৌধুরী ও ও বিএনপির আরেকজন সাংসদ এম এ মান্নান সংসদ থেকে পদত্যাগ করেন। মার্চ ২০০৪ এ বি চৌধুরীর উদ্যোগে তারা সমন্বিত ভাবে বিকল্প ধারা বাংলাদেশ নামে নতুন একটি রাজনৈতিক দল গঠন করেন। বি চৌধুরী দলের সভাপতির ও এম এ মান্নান মহাসচিব এর দায়িত্ব গ্রহণ করেন। উপনির্বাচনে দলটি মুন্সিগঞ্জ ১ আসনে জয়লাভ করে। তবে বর্তমানে এ দলটির সংসদে কোন প্রতিনিধিত্ব নেই।

ব্যক্তিগত জীবন ও সম্মাননা
প্রারম্ভিক জীবন
রাজনৈতিক জীবন, ২০০১-২০০৬
রাজনৈতিক জীবন, ১৯৭৫-১৯৮১