Chiarugi is geboren in Ponsacco, provincie Pisa, en begon zijn carrière bij Fiorentina, waar hij deel uitmaakte van de opstelling die de Serie A in 1968 en 1969 won.
titel. Na zeven seizoenen bij de "viola" verhuisde Chiarugi in 1972 naar AC Milaan, waar hij een belangrijke rol speelde bij de triomf van de "rossoneri" in de Europese Cup Winners' Cup van 1972-1973, gewonnen dankzij een doelpunt van hem in de finale tegen Leeds United, en eindigde de competitie als topscorer.