Conte var undirritaður af Giovanni Trapattoni, stjóra Juventus, árið 1991 (Conte nefnir Trapattoni sem "annann annan föður" sinn). Hann gerði sitt fyrsta leik 17. nóvember 1991 gegn Torino. Vegna stöðugrar frammistöðu hans, vinnuhraða, forystu og þrautseigju leikstíl varð hann mikilvægur maður hjá stuðningsmönnum félagsins og var síðar nefndur fyrirliði liðsins undir Marcello Lippi árið 1996, eftir að fyrri fyrirliði félagsins, Gianluca Vialli, hætti og áður en Alessandro Del Piero var kynntur í hlutverkið. Á tímabilinu 1998-1999, þegar Del Piero varð fyrir alvarlegum hnémeiðslum, kom Conte aftur í fyrirliðið, stöðu sem hann hélt fram að tímabilinu 2001-2002. Á meðan á leikferli sínum hjá Juventus stóð vann Conte fimm Serie A titla, Coppa Italia 1994-95, UEFA Cup 1992-93 og UEFA Champions League 1995-96, auk fjögurra titla í Supercoppa Italiana, UEFA Super Cup 1996 og Intercontinental Cup 1996.
(sem hann missti af vegna meiðsla) og 1999 UEFA Intertoto Cup, og vann alla mögulega efstu deildar titla, fyrir utan UEFA Cup Winners 'Cup.