Užpildykite šią frazę: 1979 m. viduryje, sulaukęs didelio "Inter" susidomėjimo, Ancelotti persikėlė į "Roma" ir rugsėjo 16 d. debiutavo Serie A rungtynėse prieš "AC Milan". Vadovaujant treneriui Nilsui Liedholmui, jis buvo naudojamas kaip sparnas arba centrinis vidurinis žaidėjas ir tapo vienu iš svarbiausių klubo žaidėjų komandoje, kurioje dalyvavo Brazilijos žvaigždžių viduriniai žaidėjai Falcao ir Toninho Cerezo, taip pat Italijos futbolo žaidėjai Roberto Pruzzo, Bruno Conti, Agostino Di Bartolomei ir Pietro Vierchowod, iš karto laimėjęs iš eilės Italijos taurę per pirmuosius du sezonus su klubu. Per savo aštuonis sezonus klube jis iš viso keturis kartus laimėjo Italijos taurę (1980, 1981, 1984 ir 1986). Po kovos su kelių sužalojimais ir antrosios ir trečiosios vietos pergalės
1981 m. ir 1982 m. Ancelotti padėjo komandai laimėti istorinį Italijos čempionato titulą 1983 m. Tai buvo antras klubo lygos titulas per visą istoriją. Kitą sezoną jis netgi padėjo "Romai" laimėti dar vieną Italijos taurę ir patekti į Europos taurės finalą 1984 m., nors dėl sužalojimų nepasiekė finalo, nes "Roma" buvo nugalėta "Liverpool" nuo baudos rungtynių "Olimpicko" stadione Romoje. 1985 m. jis buvo paskirtas komandos kapitonu pagal naują klubo vadybininką Sveną-Goraną Erikssoną ir tarnavo jaunam vidurio žaidėjui Giuseppe Giannini, nes "Roma" laimėjo Italijos taurę, tačiau dar kartą vos praleido lygos titulą 1985-1986 Serie A sezone, baigdamas antrą vietą po "Juventus".