Schrijf een vervolg op deze paragraaf - Na de communistische coup
In 1978 keerde Ahmadzai terug naar Afghanistan om zich bij de mujahideen aan te sluiten. Hij was een nauwe medewerker van Burhanuddin Rabbani en was plaatsvervangend van zijn partij Jamiat-e Islami, maar verliet deze partij in 1992 en trad toe tot de Islamitische Dawah Organisatie van Afghanistan van Abdul Rasul Sayyaf, het jaar dat het communistische bewind eindigde. Hij diende als minister in de postcommunistische Afghaanse regering, onder meer als minister van Binnenlandse Zaken, Bouw en Onderwijs, en werd later premier tussen 1995 en 1996, hoewel hij de betekenis van deze posten heeft bagatelliseerd gezien de chaos vanwege de gevechten in die tijd.