মাহমুদ আলি ১৯১৯ সালের ১ সেপ্টেম্বর সিলেটের সুনামগঞ্জের আলিমাবাগে আইনজীবী, লেখক এবং রাজনীতিবিদদের বিশিষ্ট পরিবারে জন্মগ্রহণ করেন। তাঁর বাবা, মৌলভী মুজাহিদ আলী ছিলেন আলীগড় মুসলিম বিশ্ববিদ্যালয় থেকে লেখক, কবি এবং আইন স্নাতক ছিলেন। তাঁর চাচা মৌলভী মুনাওয়ার আলী ১৯৪৬ সাল পর্যন্ত তৎকালীন মুখ্যমন্ত্রী স্যার সৈয়দ মুহাম্মদ সাদুল্লাহর অধীনে আসাম সরকারের মন্ত্রীর দায়িত্ব পালন করেছিলেন এবং পরবর্তীকালে পূর্ববঙ্গ আইনসভার সদস্য হিসাবে ছিলেন। মাহমুদ আলীর দাদা ও আলী পরিবারের প্রধান, মৌলভী মোশারফ আলী মূলত কুমিল্লার শাহবাজপুরের বাসিন্দা, যেখানে তাঁর পূর্বপুরুষদের কেউ কেউ সম্রাটের অধীনে বাংলার পদ্মা অঞ্চলে ইম্পেরিয়াল নৌবাহিনীর সর্বাধিনায়ক ছিলেন।

মাহমুদ আলী ১৯৩৭ সালে সুনামগঞ্জ সরকারী জয়ন্তী উচ্চ বিদ্যালয় থেকে ম্যাট্রিক করেছেন এবং সিলেটের এমসি কলেজে পড়াশোনা করেছেন। তিনি সেন্ট এডমন্ডস কলেজ এবং সেন্ট অ্যান্টনি কলেজে পড়াশোনা চালিয়ে যান এবং ১৯৪২ সালে ইংরেজিতে অনার্স নিয়ে স্নাতক হন। স্নাতক শেষে তিনি কলকাতা বিশ্ববিদ্যালয়ে আইন বিষয়ে পড়াশোনা করেন কিন্তু স্বাধীনতা আন্দোলনে জড়িত থাকার কারণে পড়াশোনা চালিয়ে যাননি।

গণতান্ত্রিক দল
লাইন সিস্টেম এবং নাগরিক অবাধ্যতা আন্দোলন
সিলেট গণভোট
প্রথম জীবন এবং পরিবার