Escriu una continuació per a aquest paràgraf - Amb els Phillies, va continuar el seu paper com a pitcher de relleu fiable, guanyant el seu segon All-Star en la seva primera temporada a Filadèlfia, tot i que no va aparèixer en el joc. Després d'acabar en segon lloc als Pirates el 1975, els Phillies de McGraw van guanyar la seva corona de divisió les tres temporades següents. No obstant això, van ser incapaços d'arribar a les World Series, ja que van ser barrits per Cincinnati "Big Red Machine" en el 1976 NLCS
, i va caure als Los Angeles Dodgers les dues temporades següents.