Conte allekirjoitti sopimuksen Juventusin managerin Giovanni Trapattonin kanssa vuonna 1991 (Conte viittaa Trapattoniin "toisena isänään"), ja debytoi 17. marraskuuta 1991 Torinon kanssa. Johdonmukaisten suoritustensa, työhönsä, johtajuutensa ja sitkeän pelaamisensa ansiosta hänestä tuli tärkeä hahmo klubin fanien keskuudessa, ja hänet nimitettiin myöhemmin Marcello Lippin johdolla joukkueen kapteeniksi vuonna 1996, kun klubin edellinen kapteeni Gianluca Vialli lähti ja ennen Alessandro Del Pieron ylennystä rooliin. Vuoden 1998-99 kaudella, kun Del Piero kärsi vakavasta polvivammasta, Conte palasi kapteeniksi, jonka hän säilytti kaudelle 2001-2002. Juvenuksen aikana Conte voitti viisi Serie A:n mestaruutta, Coppa Italia 1994-95, UEFA Cup 1992-93 ja UEFA Champions League 1995-96, sekä neljä Supercoppa Italiana -mestaruutta, 1996 UEFA Super Cup,
1996 Intercontinental Cup (jota hän jäi väliin loukkaantumisen vuoksi) ja 1999 UEFA Intertoto Cup, voittaen kaikki mahdolliset huippuluokan klubititlit, lukuun ottamatta UEFA Cup Winners 'Cupia.