După ce sezonul 1991-92 s-a încheiat cu Cremonese în retrogradare, Rampulla s-a mutat la Juventus în 1992, unde s-a bucurat de o perioadă de succes de 10 ani la club; a jucat inițial ca titular, înlocuind fostul portar legendar al Juventus, Stefano Tacconi, și ulterior ca portar de rezervă pentru restul carierei sale, în spatele lui Angelo Peruzzi, Edwin van der Sar și Gianluigi Buffon, și mai târziu ca portar de rezervă în spatele lui Andreas Isaksson și Fabian Carini, retrăgându-se din fotbalul activ în 2002, după victoria Juventus în Serie A și înfrângerea în finala Coppa Italia. În ciuda faptului că a fost predominant rezervă, a jucat meciuri în fiecare competiție pentru Juventus în aproape fiecare sezon al carierei sale la Juventus, în special sub Peruzzi la mijlocul anilor '90, când acesta din urmă se lupta cu leziuni recurente. În timpul petrecut la club, Rampulla a câștigat Cupa UEFA în 1993 (ca titular), o Coppa Italia în 1995 (ca titular), 4 titluri în Serie A, 2 Supercoppe Italiane (a înlocuit-o pe Peruzzi după ce fusese eliminat în ediția din 1995 a turneului, contribuind la victoria echipei sale cu mai multe salvări decisive), o Ligă a Campionilor UEFA, o Supercupă UEFA, o Cupa Intercontinentală
, și o Cupa UEFA Intertoto.