Pirmasis nuolatinis komitetas buvo suformuotas 1928 m. liepos mėn. per Kinijos komunistų partijos 6-ojo centrinio komiteto susitikimą. Nuo 1934 m. sausio mėn. iki Kinijos komunistų partijos 8-ojo nacionalinio kongreso 1-osios plenarinės sesijos
1956 m. Nuolatinis komitetas buvo pakeistas Kinijos komunistų partijos centrinis sekretoriatas. Komunistinės partijos ankstyvoje istorijoje ji buvo laikoma aukščiausiu centrinį organą, kuris turėjo atlikti kasdienį partijos centrinio komiteto darbą. Jį sudarė didžiausių politinio biuro (t. y. "Politburo") vadovų. Skirtingai nuo daugelio kitų komunistinių partijų pasaulyje, kurios buvo sukurtos pagal Lenino partijos modelį, KKP įkūrė nuolatinį komitetą, nes Politbiuras (paprastai aukščiausias komunistinės partijos organas) buvo laikomas per dideliu ir sunkia valdyti, kad galėtų veiksmingai priimti sprendimus.