Despois de comezar a súa carreira como xogador junior na Ontario Hockey League (OHL) aos 15 anos, Spezza foi seleccionado segundo no Draft da NHL de 2001.
Os Ottawa Senators, servindo como capitán do equipo tras a saída de Daniel Alfredsson. Xogando na American Hockey League (AHL) en 2004-05 debido ao bloqueo da NHL, gañou o premio Les Cunningham como MVP da liga cos Binghamton Senators. En 2005-06, Spezza estableceu un récord de franquicia dos Ottawa Senators con 71 asistencias, ao mesmo tempo que alcanzou a marca de 90 puntos por primeira das dúas veces na súa carreira na NHL.