Després de la temporada 1991-92 que va acabar en relegament per al Cremonese, Rampulla es va traslladar a la Juventus el 1992, on va gaudir d'una temporada de 10 anys molt reeixida al club; inicialment va jugar com a titular, substituint l'ex porter llegendari de la Juventus, Stefano Tacconi, i posteriorment com a porter de reserva per a la resta de la seva carrera, darrere d'Angelo Peruzzi, Edwin van der Sar i Gianluigi Buffon, i més tard com a porter de reserva darrere d'Andreas Isaksson i Fabian Carini, es va retirar del futbol actiu el 2002, després de la victòria del títol de la Serie A de la Juventus i la derrota en la final de la Copa d'Itàlia. Tot i ser predominantment una reserva, va jugar partits en totes les competicions per a la Juventus durant gairebé totes les temporades de la seva carrera a la Juventus, en particular sota Peruzzi durant la meitat dels anys 90, quan aquest últim estava lluitant amb lesions recurrents. Durant el seu temps al club, Rampulla va guanyar una Copa de la UEFA el 1993 (com titular), una Copa d'Itàlia el 1995 (com titular), 4 títols de la Serie A, 2 Supercoppe Italiane (va substituir Peruzzi després d'haver estat expulsat en l'edició de 1995 del torneig, contribuint a la victòria del seu equip amb diverses salvaments decisius), una Lliga de Campions de la UEFA, una Supercopa de la UEFA, una Copa Intercontinental
, i una Copa Intertoto de la UEFA.