Conte allekirjoitti sopimuksen Juventusin managerin Giovanni Trapattonin kanssa vuonna 1991 (Conte viittaa Trapattoniin "toisena isänään"), ja debytoi 17. marraskuuta 1991 Torinon kanssa. Johdonmukaisten suoritustensa, työhönsä, johtajuutensa ja sitkeän pelaamisensa ansiosta hänestä tuli tärkeä hahmo klubin fanien keskuudessa, ja hänet nimitettiin myöhemmin Marcello Lippin johdolla joukkueen kapteeniksi vuonna 1996, kun klubin edellinen kapteeni Gianluca Vialli lähti ja ennen Alessandro Del Pieron ylennystä rooliin. Vuoden 1998-99 kaudella, kun Del Piero kärsi vakavasta polvivammasta, Conte palasi kapteeniksi, jonka hän säilytti kaudelle 2001-2002. Juvenuksen aikana Conte voitti viisi Serie A -sarjan mestaruutta, 1994-95 Coppa Italiaa, 1992-93 UEFA Cupia ja 1995-96 UEFA Champions Leaguea, sekä neljä Supercoppa Italiana -sarjan mestaruutta, 1996 UEFA Super Cupia, 1996 Intercontinental Cupia.
(jota hän ei saanut loukkaantumisen vuoksi) ja 1999 UEFA Intertoto Cup, voittaen kaikki mahdolliset huippuluokan klubititlit, lukuun ottamatta UEFA Cup Winners 'Cupia.