Ngrampungake ukara ing ngisor iki: Sawise narik kawigaten saka Inter Milan, ing pertengahan 1979, Ancelotti pindhah menyang Roma, lan nggawe debut Serie A ing 0 <unk> 0 imbang nglawan AC Milan tanggal 16 September. Ing sangisoré manajer Nils Liedholm, dhèwèké digunakaké minangka pemain sayap utawa gelandang tengah lan dadi salah sawijining pemain klub sing paling penting ing tim sing nampilake pemain tengah bintang Brasil Falcão lan Toninho Cerezo, uga pemain bal-balan Italia Roberto Pruzzo, Bruno Conti, Agostino Di Bartolomei, lan Pietro Vierchowod, langsung menang gelar Coppa Italia berturut-turut ing rong musim pisanan karo klub kasebut. Sajrone wolung musim ing klub kasebut, dheweke menang Coppa Italia kaping papat (1980, 1981, 1984, lan 1986). Sawise berjuang karo ciloko dhengkul, lan ngatur papan liya lan katelu liga rampung ing
Ing taun 1981 lan 1982, Ancelotti mbantu tim kasebut menang juara Italia sing bersejarah ing taun 1983, gelar liga kaping pindho ing sejarah klub kasebut. Ing musim sabanjure, dheweke malah mbantu Roma menang gelar Coppa Italia liyane lan tekan final Piala Eropa ing taun 1984, sanajan ora kejawab final amarga cedera amarga Roma dikalahake dening Liverpool ing penalti ing Stadio Olimpico ing Roma. Dheweke dadi kapten tim ing taun 1985 ing sangisoré manajer klub anyar Sven-Göran Eriksson, lan dadi mentor kanggo gelandang enom Giuseppe Giannini, nalika Roma menang Coppa Italia, nanging sepisan maneh ora entuk gelar liga nalika musim 1985-86 Serie A, rampung ing urutan nomer loro ing mburi Juventus.