Hann var trúfastur við Ali Nasser Mohammed forseta í borgarastyrjöldinni í Suður-Jemen.
, og fylgdist honum í útlegđ í nágrannalandi Norður-Jemen. Á meðan á borgarastyrjöldinni í Jemen árið 1994 stóð, tók Hadi lið við ríkisstjórn Ali Abdullah Saleh forseta Jemen og var ráðinn varnarmálaráðherra. Í þessu hlutverki leiddi hann herherferð gegn Lýðræðislegu lýðveldi Jemen. Eftir stríðið var hann kynntur sem varaforseti 3. október 1994 í stað Ali Salim Al-Beidh, sem hafði sagt af sér og barist gegn ríkisstjórninni í borgarastyrjöldinni.