যখন তিনি কলকাতায় মুসলিম সাহিত্য সমাজ ও বুদ্ধিমুক্তি আন্দোলনের অন্যতম পুরোধা ব্যক্তিত্ব কাজী আবদুল ওদুদের সংস্পর্শে আসেন । তাঁর সাহচর্যেই লেখালেখির কাজ শুরু করেন। তাঁর নিজের কথায় -

সাধারণ মানুষের জীবনের কথা নিপুণ ভাবে পাঠকের কাছে তুলে ধরায় অচিরেই সার্থক সাহিত্যিকরূপে স্বীকৃতি পান তিনি। কিছু দিন 'পয়গম' পত্রিকায় সাংবাদিকতা করেন। তাঁর প্রথম গল্প 'বদলিওয়ালা' ও প্রথম গল্পগ্রন্থ 'বুভুক্ষা'। ১৯৬২ খ্রিস্টাব্দে প্রথম উপন্যাস ' ইলিশমারির চর' লিখে বিখ্যাত হন। আর ছয়ের দশকের শেষের দিকে 'দেশ' পত্রিকায় তাঁর ধারাবাহিক কথাচিত্র 'বাংলার চালচিত্র' প্রকাশ হতেই বাংলার বিদ্বসমাজ আবদুল জব্বারের লিখনশৈলী ও ফিচারধর্মী রচনার দক্ষতায় মুগ্ধ হন এবং তিনি বিশেষভাবে প্রশংসা লাভ করেন । সব মিলিয়ে তাঁর রচিত গ্রন্থ সংখ্যা হল চল্লিশখানি। উল্লেখযোগ্য উপন্যাসগুলি হল -


জনপ্রিয় ফিচারধর্মী গ্রন্থ হল -


সাহিত্যকর্ম
জীবনী
সম্মাননা
মৃত্যু