Nacido en Ponsacco, provincia de Pisa, Chiarugi comenzó su carrera con la Fiorentina, siendo parte de la alineación que ganó la Serie A 1968-69
el título. Después de siete temporadas con la "viola", Chiarugi se trasladó al A.C. Milán en 1972, siendo instrumental para el triunfo de los "rossoneri" en la Copa de los Ganadores de la Copa de Europa de 1972-73, ganada gracias a un gol de él en el partido final contra el Leeds United, terminando la competición como máximo goleador.