Konte buvo pasirašytas "Juventus" trenerio Giovanni Trapattoni 1991 m. (Conte Trapattoni vadina savo "antruoju tėvu"), debiutavęs 1991 m. lapkričio 17 d. prieš miesto varžovus Torino. Dėl pastovių pasirodymų, darbo, vadovavimo ir atkaklaus žaidimo stiliaus jis tapo svarbiu klubo gerbėjų figūra. Vėliau 1996 m. Marcello Lippi buvo paskirtas komandos kapitonu, po to, kai klubo kapitonas Gianluca Vialli pasitraukė, ir prieš tai, kai Alessandro Del Piero buvo paaukštintas į šį vaidmenį. 1998-1999 m. Sezono metu, kai Del Piero patyrė sunkią kelių traumą, Conte grįžo į komandos kapitoną, ir jis išlaikė šią poziciją iki 2001-2002 m. Sezono. Per savo "Juventus" karjerą Conte laimėjo penkis Serie A titulus, 1994-1995 metų Italijos taurę, 1992-1993 metų UEFA taurę ir 1995-1996 metų UEFA Čempionų lygą, taip pat keturis Supercoppa Italiana titulus, 1996 metų UEFA Super taurę,
1996 m. tarpkontinentinis taurė (kurį jis praleido dėl sužalojimo) ir 1999 m. UEFA Intertoto taurė, laimėdamas visus galimus aukščiausio lygio klubo vardus, išskyrus UEFA taurės nugalėtojų taurę.