Rupp lék í háskóli í St. Edward High School í Lakewood í Ohio. Hann var upphaflega dreginn í fyrstu umferð, níunda í heild, af New York Islanders í 1998 NHL Entry Draft. Eftir að hafa verið ósamþykkt á meðan hann spilaði enn í Ontario Hockey League (OHL) með Erie Otters, valdi Rupp að snúa aftur til NHL Entry Draft og var síðan valinn 76. í heildinni í
2000 fyrir New Jersey Devils.