1843-ban Zenget kinevezték fő irodalmi vizsgáztatónak Szechuan tartományban. Hat évvel később a Rítusbizottság főtitkárhelyettese lett. A katonai vizsgáló hivatalában (1851-ben) édesanyja halála miatt kénytelen volt visszatérni Hunan tartományba, hogy elvégezze a három évig tartó fiús gyászt. Az idő körül, a
A tajpin lázadók elfoglalták a Hunan tartományt, és elfoglalták a városokat és erődítményeket a Jangce folyó mindkét partján. Egy különleges rendeletben Zengnek megparancsolták, hogy segítsen a tartományi kormányzónak önkéntes erők összegyűjtésében, és saját kezdeményezésére épített egy hadjáratú hajóflottát és több arzenált, amellyel megtámadta a lázadókat. Ez az erő végül a Xiang Hadsereg néven vált ismertté. Hunan hadsereg vagy Chu hadsereg). A Xiang hadsereg kiképzésében és parancsnokságában Zeng hangsúlyozta "a családi kötelékeket, az egyéni felelősséget, a rugalmas, mégis felelősségteljes fegyelmet, a fokozott katonai fizetést, a hadseregben szolgáló értelmiségiek tiszteletét és a tisztek és katonák közötti erős köteléket". Az első összecsapásán Zeng legyőzte a lázadókat, de a hadnagyai sikeresebbek voltak. Visszaszerezték a tartomány fővárosát, Csangsát, és elpusztították a lázadó flottát. Az alárendeltjei győzelmeit követően Zeng visszafoglalta Wuchangot és Hanyangot, Hankou közelében, és sikeréért a Háború Tanács alelnöke kinevezésével jutalmazták. A Zeng vezette Xiang hadsereg néhány integrált Hangzhou fúrócsoportot tartalmazott.