A Devils draftolták a 17. helyen.
2003-ban a NHL Entry Draft-en vették fel, és második évében profivá vált, egy évet az American Hockey League (AHL) Albany River Rats csapatában töltött. Parise a Devils-hez csatlakozott a 2005/06-os szezonban. Parise legjobb NHL-szezonja 2008/09-ben volt, amikor Jeff Carter 46 góllal és Alexander Ovechkin 56 góllal volt a harmadik legjobb gólszerző (45) a ligában, miközben az összes NHL-játékos között ötödik helyen állt a pontok tekintetében 94-tel.