Gattuson työvoima ja monipuolisuus pallojen voittajana salli myöhemmin Milanon managerin Carlo Ancelottin sijoittaa keskikentän pelaaja Andrea Pirlon rinnalleen luovuudeltaan hyökkäävässä asemassa, kun taas Gattuso tuki häntä syvempään rooliin puolustavana keskikenttäpelaajana. Tämä keskikentän kumppanuus oli ratkaiseva Milanon kotimaisille ja kansainvälisille menestyksille Ancelottin johdolla, joihin kuului Coppa Italia, UEFA Champions League ja UEFA Super Cup vuonna 2003, sekä Serie A -titelin ja Supercoppa Italiana
vuonna 2004. Gattuso allekirjoitti sopimuksen Milanon kanssa kesäkuussa 2003 ja lokakuussa 2004. Gattuso pääsi myös vuoden 2005 UEFA Champions League -finaaliin Milanon kanssa, mutta Liverpool voitti hänet rangaistuspotkuissa.