Ljúka eftirfarandi setningu: Eftir að hafa vakið mikinn áhuga Inter Milan, um miðjan 1979 flutti Ancelotti til Roma, og gerði sitt Serie A-debut í 0<unk>0 jafntefli gegn AC Milan þann 16. september. Undir stjórn Nils Liedholms var hann settur sem kantmaður eða miðjumaður og varð einn mikilvægasti leikmaður félagsins í liði sem innihélt eins og brasilísku miðjumennina Falcão og Toninho Cerezo, auk ítalska knattspyrnumanna Roberto Pruzzo, Bruno Conti, Agostino Di Bartolomei og Pietro Vierchowod, og vann strax Coppa Italia titla í röð á fyrstu tveimur tímabilum sínum með félaginu. Á átta tímabilum sínum í félaginu vann hann Coppa Italia fjórum sinnum (1980, 1981, 1984 og 1986). Eftir ađ hafa glímt viđ hnémeiðsli og komist í annað og þriðja sæti í deildinni í
1981 og 1982, Ancelotti hjálpaði liðinu að vinna sögulegt ítalska meistaratitil árið 1983, annað meistaratitil félagsins í sögu. Á næsta tímabili hjálpaði hann Roma til að vinna Coppa Italia og komast í úrslit Evrópubikarsins árið 1984, þó að hann missti úrslitaleikinn vegna meiðsla þar sem Roma var sigrað af Liverpool í vítaspyrnukeppni á Stadio Olimpico í Róm. Hann var nefndur fyrirliði liðsins árið 1985 undir nýjum stjóra félagsins, Sven-Göran Eriksson, og starfaði sem leiðbeinandi fyrir unga miðjumanninn Giuseppe Giannini, þar sem Roma vann Coppa Italia, en aftur missti af deildartitlinum á tímabilinu 1985-86 í Serie A, endaði í öðru sæti á eftir Juventus.