Conte estis subskribita fare de Juventus-manaĝero Giovanni Trapattoni en 1991 (Conte nomas Trapattoni sia "dua patro"), debutante la 17an de novembro 1991 kontraŭ transurbaj rivaloj Torino. Pro liaj konstantaj prezentoj, labor-indico, gvidado kaj obstina ludstilo, li fariĝis grava figuro kun la fanoj de la klubo, kaj poste estis nomita kapitano de la teamo sub Marcello Lippi en 1996, post la foriro de la antaŭa kapitano de la klubo Gianluca Vialli, kaj antaŭ la promocio de Alessandro Del Piero al la rolo. Dum la sezono 1998-1999, kiam Del Piero suferis severan vundon de la genuo, Conte revenis al la kapitaneco, pozicio kiun li konservis ĝis la sezono 2001-2002. Dum lia Juventus ludanta karieron, Conte gajnis kvin Serie A titoloj, la 1994<unk>95 Coppa Italia, la 1992<unk>93 UEFA Pokalo kaj la 1995<unk>96 UEFA Ĉampionoj-Ligo, same kiel kvar Supercoppa Italiana titoloj, la 1996 UEFA Superpokalo, la 1996 Interkontinenta Pokalo
(kiun li maltrafis pro vundo) kaj la 1999-datita UEFA Intertoto-pokalo, gajnante ĉiujn eblajn pintnivelajn klubajn titolojn, krom la Pokalo de Pokalvenkintoj de UEFA.