Täytä seuraava lause: Ancelotti siirtyi Inter Milanin vahvan kiinnostuksen jälkeen vuoden 1979 puolivälissä Romalle ja teki Serie A -debyyttinsä tasapeliin AC Milania vastaan 16. syyskuuta. Valmentajan Nils Liedholmin alaisuudessa hänet käytettiin siivikkona tai keskeisenä keskikenttäpelaajana ja hänestä tuli yksi klubin tärkeimmistä pelaajista joukkueessa, jossa oli brasilialaisia keskikenttäpelaajia Falcão ja Toninho Cerezo sekä italialaisia jalkapalloilijoita Roberto Pruzzo, Bruno Conti, Agostino Di Bartolomei ja Pietro Vierchowod. Hän voitti välittömästi peräkkäiset Coppa Italia -mestaruudet kahdessa ensimmäisessä kaudessaan klubilla. Kahdeksan kauden aikana hän voitti Coppa Italiaa yhteensä neljä kertaa (1980, 1981, 1984 ja 1986). Hän oli kärsinyt polven vammoista - ja päässyt toiseksi ja kolmanneksi
1981 ja 1982 Ancelotti auttoi joukkuetta voittamaan historiallisen Italian mestaruuden vuonna 1983. Se oli klubin historian toinen mestaruus. Seuraavana kaudella hän jopa auttoi Romaa voittamaan toisen Coppa Italia -sarjan ja pääsemään Eurooppa-cupin finaaliin vuonna 1984, vaikka hän ei päässyt finaaliin loukkaantumisen vuoksi, kun Roma voitti Liverpoolin rangaistuksilla Stadio Olimpicolla Roomassa. Hänet nimitettiin joukkueen kapteeniksi vuonna 1985 uuden klubin managerin Sven-Göran Erikssonin johdolla, ja hän toimi nuoren keskikenttäpelaajan Giuseppe Gianninin mentorina, kun Roma voitti Coppa Italia -sarjan, mutta jälleen kerran hävisi tiukasti liigan mestaruuden Serie A -kaudella 1985-86, päättyen toisella sijalla Juventuksen jälkeen.