Terry alianza kujitambulisha katika timu ya kwanza ya Chelsea kutoka msimu wa 2000/01, na kufanya maonyesho 23 na kuchaguliwa Mchezaji wa Mwaka wa klabu hiyo. Aliendelea na maendeleo yake wakati wa 2001/02, na kuwa wa kawaida katika ulinzi pamoja na nahodha wa klabu na kimataifa wa Ufaransa Marcel Desailly. Mnamo 5 Desemba 2001, aliongoza Chelsea kwa mara ya kwanza, katika mechi ya Ligi dhidi ya Charlton Athletic. Chelsea ilifikia fainali ya Kombe la FA, kufuatia ushindi dhidi ya wapinzani wa London West Ham United na Tottenham Hotspur katika raundi ya nne na sita mtawaliwa, na Fulham katika nusu fainali <unk> ambapo Terry alifunga bao pekee katika ushindi wa 1 <unk> 0. Virusi vilimkataza Terry nafasi katika safu ya kuanza kwa fainali, ingawa alikuja kama mbadala wa pili wakati alipoteza 2 <unk> 0 kwa Arsenal. Katika msimu wa 2003/04, maonyesho yake yalimfanya kuwa naibu nahodha wa Chelsea Terry Desailly kuwa mtu anayeweza kuchezwa vizuri wakati mshirika na meneja wa timu ya Ufaransa, William Claudio Gallas.
meneja Claudio Ranieri