Voltooi de volgende zin: Pettitte was de eerste speler van de Core Four die met pensioen ging, en kondigde zijn besluit aan op een persconferentie in het Yankee Stadium op 4 februari 2011. Hij zei tegen de organisatie "niet te rekenen op zijn terugkeer" nadat de Yankees verloren de
2010 American League Championship Series aan de Texas Rangers, aangezien hij meer tijd met zijn familie wil doorbrengen. Na het seizoen weg van honkbal, diende hij als gastinstructeur voor de Yankees tijdens de voorjaarsopleiding van 2012 en stond erop dat hij geen comeback overwoog. Hij keerde echter zijn beslissing om op zijn laatste dag als instructeur en trad op 16 maart terug bij de organisatie en tekende een contract van $ 2,5 miljoen voor de kleine competitie. Hij gooide in zowel de 2013 en 2014 seizoenen voor de Yankees voordat hij zijn tweede pensionering aankondigde op 20 september 2013. Hoewel hij aanvankelijk zijn beslissing niet zou onthullen, deed hij het uiteindelijk op aandringen van Rivera. De Yankees hielden een ceremonie voor Pettitte vijf dagen later op 25 september, met mede Core Four-leden Jeter en Rivera die hem een geraamde basis presenteerden van zijn laatste Yankee Stadium-start, ondertekend door al zijn teamgenoten. Hij maakte zijn laatste optreden op 28 september tegen de Houston Astros, het enige andere team waar hij in zijn carrière voor had gegooid. Hij gooide een complete wedstrijd - zijn eerste sinds 2006 - en door zijn laatste start te winnen, eindigde hij het seizoen met een record van 11-11 overwinningen en verliezen. Dit behield zijn record van nooit een verliezend seizoen te hebben in zijn 18-jarige carrière en de enige werper in de geschiedenis van de Major League te zijn die 15 winnende seizoenen heeft gehad (met minimaal drie starts per se) zonder een verliezend seizoen op te nemen.