Despois da rendición do Xapón, Gao alistou-se no Exército Popular de Liberación en novembro de 1947, e uniuse ao Partido Comunista de China o ano seguinte. Durante a Guerra Civil Chinesa, Gao loitou na campaña de Liaoshen, a campaña de Pingjin
E foi condecorado seis veces.