Hän jatkoi kehitystään 2001-2002 ja tuli vakiintuneeksi puolustuksessa joukkueen kapteenin ja Ranskan maajoukkueen Marcel Desaillyn rinnalla. 5. joulukuuta 2001 hän kapteeni Chelsea ensimmäistä kertaa, liigan ottelussa Charlton Athleticia vastaan. Chelsea saavutti FA Cupin finaalin, voittojen jälkeen Lontoon kilpailijoita West Ham Unitedia ja Tottenham Hotspuria vastaan neljännessä ja kuudennessa kierroksessa vastaavasti, ja Fulham puolifinaalissa, jossa Terry teki ainoan maalin 1-0 voitto.
5. joulukuuta 2001