Haqqani urodził się w 1939 roku w wiosce Karezgay w dzielnicy Zadran w prowincji Paktia w Afganistanie, jako syn bogatego właściciela ziemi i kupca, chociaż później rodzina przeniosła się do Sultankhel. Był etnicznym Pashtunem z plemienia Zadran z Khost. W 1964 r. podjął zaawansowane studia religijne w seminarium Dar-al-'Ulam Haqqaniya Deobandi i ukończył, co uprawniało go do uzyskania statusu mawlawi w Peszawarze w 1970 r. Po wygnaniu króla Zahira Szaha i dojściu do władzy prezydenta Dauda Khana w 1973 roku sytuacja polityczna w Afganistanie powoli zaczęła się zmieniać. Liczne partie, takie jak Demokratyczna Partia Ludowa Afganistanu (PDPA) i inne, dążyły do władzy. Haqqani był jednym z nich i po podejrzaniu o spisek przeciwko rządowi wyjechał na wygnanie i osiadł w Miranshah w Pakistanie. Stamtąd zaczął organizować rebelię przeciwko rządowi Dawida Khana w 1975 roku. Po rewolucji marksistowskiej w 1978 roku
przez PDPA, Haqqani dołączył do Hezb-i Islami Mawlawi Mohammad Yunus Khalis.