Alexandros qua đời vào ngày 10 hoặc 11 tháng 6 năm 323 TCN tại cung điện của Nebuchadnezzar II tại Babylon ở tuổi 32. Có hai phiên bản khác nhau về cái chết của Alexandros, chứa sự khác biệt nhỏ về chi tiết của cái chết. Theo lời kể của Plutarchus thì vào khoảng 14 ngày trước khi qua đời, Alexandros có tiếp đãi đô đốc Nearchus, uống rượu cả đêm hôm đó và ngày hôm sau cùng Medius của Larissa. Sau đó, ông bị sốt. Bệnh tình ngày càng trở nặng cho đến khi ông không còn có thể nói được. Những binh sĩ bình thường, lo lắng cho sức khỏe đức vua, được phép đến gần nếu nhà vua vẫy tay gọi bọn họ. Trong phiên bản thứ hai, Diodorus kể lại rằng Alexandros bị đau sau khi uống một bát rượu không pha lớn dùng để dâng lên thần Heracles. Sức khỏe của ông suy giảm trong 11 ngày tiếp đó. Tuy nhiên, ông không phát sốt, nhưng đã qua đời sau khi bị những cơn đau hành hạ. Arrianos tán thành với phiên bản của Diodorus, trong khi Plutarchus bác bỏ nó một cách quyết liệt.Do nội bộ tầng lớp quý tộc Macedonia thường xảy ra các vụ ám sát, nhiều ghi chép về cái chết của Alexandros–mà trong đó có Diodorus, Plutarchus, Arrianos và Justinus–đã đề cập tới khả năng rằng ông có thể đã bị hạ độc. Justinus tuyên bố rằng Alexandros là nạn nhận của một âm mưu đầu độc. Dù bản thân Plutarchus bác bỏ điều này, cho rằng nó là một điều bịa đặt, thì cả Diodorus lẫn Arrianos đều ghi chú rõ ràng rằng họ đề cập tới vụ hạ độc này chỉ với mục đích đầy đủ hóa những ghi chép của họ. Tuy nhiên, các ghi chép đều khá nhất quán trong việc ám chỉ Antipater–người gần đây mới bị cách chức Phó vương của Macedonia và đồng thời có mâu thuẫn cao độ với Thái hậu Olympias–là người đứng sau âm mưu trên. Có lẽ do xem lệnh triệu tập đến Babylon như một bản án tử hình, với tấm gương của Parmenion và Philotas trước đó, Antipater đã sắp xếp để Alexandros bị con trai của ông là Iollas rót rượu có độc. Một số ý kiến khác thậm chí còn cho rằng Aristoteles có thể đã tham gia âm mưu ám sát.Lập luận mạnh nhất phản bác lại giả thuyết Alexandros bị hạ độc là thực tế rằng khoảng thời gian kể từ khi nhà vua bắt đầu bị bệnh đến khi chết là mười hai ngày. Những độc tố có thời gian phát tán lâu như vậy có lẽ không có sẵn. Tuy nhiên, trong một bộ phim tài liệu năm 2003 điều tra cái chết của Alexandros do đài BBC thực hiện, chuyên gia Leo Schep từ Trung tâm Chất độc Quốc gia New Zealand đã đề xuất rằng loài thực vật Veratrum album, vốn đã được biết đến trong thời cổ đại, có thể đã được sử dụng để đầu độc Alexandros. Trong bản thảo gửi cho tạp chí Clinical Toxicology vào năm 2014, Schep có đề xuất rằng rượu vang của Alexandros đã được pha với Veratrum album, dẫn đến các triệu chứng ngộ độc khớp với các diễn biến được mô tả trong Alexandros truyền kỳ. Độc tính của Veratrum album có thể có thời gian phát tán chậm, do vậy, trong trường hợp nếu Alexandros bị đầu độc, thì loài thực vật này là nguyên nhân hợp lý nhất. Năm 2010, một cách giải thích khác về vụ đầu độc Alexandros cho rằng hoàn cảnh cái chết của ông có liên quan đến nước sông Styx (Mavroneri ở Arcadia, Hy Lạp ngày nay), vốn chứa calicheamicin, một hợp chất nguy hiểm do vi khuẩn tạo ra.Ngoài những nguyên nhân trên, các học giả đã đề xuất một vài nguyên nhân tự nhiên (bệnh tật) như sốt rét và sốt thương hàn. Trong một bài báo xuất bản năm 1998 trên Tạp chí Y học New England, ngoài sốt thương hàn, Alexandros còn bị thủng ruột khiến sức khỏe yếu dần dẫn đến liệt. Một phân tích khác gần đây đưa ra giả thuyết về viêm cột sống sinh mủ (nhiễm trùng) hoặc viêm màng não. Một số căn bệnh khác phù hợp với các triệu chứng trong ghi chép có thể kể đến như viêm tụy cấp và virus Tây sông Nin. Nói chung, các giả thuyết về nguyên nhân tự nhiên thường có thiên hướng nhấn mạnh rằng sức khỏe của nhà vua đại để đã suy giảm sau nhiều năm uống rượu và chịu nhiều vết thương nặng trên chiến trận. Ngoài ra, nhớ thương Hephaestion cũng có thể là một nguyên nhân chính khiến sức khỏe của ông suy sụp.
Alexandros qua đời vào ngày 10 hoặc 11 tháng 6 năm 323 TCN tại cung điện của Nebuchadnezzar II tại Babylon ở tuổi 32. Sau đó, ông bị sốt.