Escribir unha continuación para este parágrafo - Seguindo o golpe comunista
En 1978, Ahmadzai volveu a Afganistán para unirse aos muyahidíns. Foi un estreito asociado de Burhanuddin Rabbani, sendo deputado do seu partido Jamiat-e Islami, pero despois marchou e uniuse ao partido da Organización Dawah Islámica de Afganistán de Abdul Rasul Sayyaf en 1992, o ano no que rematou o goberno comunista. Serviu como ministro no goberno afgano postcomunista, como ministro do Interior, da Construción e da Educación, e máis tarde converteuse en primeiro ministro entre 1995 e 1996, aínda que minimizou a importancia destes cargos dado o caos debido aos combates daquela época.