১২ই মার্চ, ১৯৯৫ সালে, তালিবানেরা কাবুলের কাছে চার আসিয়াবে, তাকে, তার পাঁচজন সঙ্গীসহ গ্রেফতার করে। পরেরদিন মাজারির মৃত্যুদন্ড কার্যকর করা হয় এবং তার দেহ <MASK> জেলায় পাওয়া যায়। তখন তার বয়স হয়েছিল ৪৯। তালিবান একটি বিবৃতি জারি করে বলে যে, কান্দাহার নিয়ে যাবার সময়ে মাজারি, তালিবান সৈন্যদের ওপর হামলা চালিয়েছিলেন। পরে তার এবং তার সঙ্গীদের দেহ হেজবে ওয়াহদাতের হাতে তুলে দেওয়া হয়, সব দেহগুলো বিকৃত অবস্থায় ছিল এবং নির্যাতনের লক্ষণও ছিল। মাজারির দেহ গাজনি থেকে উত্তরের মাজার-ই-শরিফে (সেই সময় তার সঙ্গী আব্দুল রশিদ দোস্তুমের নিয়ন্ত্রণে) নিয়ে যাওয়া হয়।
আব্দুল আলি মাজারি
মাজার-ই-শরিফ কান্দাহার গাজনি মাজার-ই-শরিফে