Poungui 1990 m. lapkričio 28 d. atsistatydino iš PCT ir tapo naujos partijos, Socialinės pažangos ir demokratijos sąjungos (UPSD), lyderiu. 1997 m. birželio- spalio mėn. pilietinio karo pabaigoje
, kai PCT lyderis Denis Sassou Nguesso grįžo į valdžią, Poungui, kaip prezidento Paskalo Lissouba rėmėjas, pabėgo į tremtį. Jis išliko tremtyje iki 2006 m.