Ljúktu eftirfarandi setningu: Clemens kom úr eftirlaunum og skrifaði undir eins árs samning við Houston Astros 12. janúar 2004 og gekk til liðs við náinn vin sinn og fyrrverandi liðsfélaga Andy Pettitte. Þann 5. maí 2004 skoraði Clemens 4.137. strikút sinn í ferlinum og varð þar með í öðru sæti á lista allra tíma á eftir Nolan Ryan. Hann var nefndur byrjunarmaður í National League All-Star liðinu en var að lokum tapandi pitcher í leiknum eftir að hafa leyft sex hlaup á fimm höggum, þar á meðal þriggja hlaupa heimhlaup til Alfonso Soriano. Clemens lauk tímabilinu með 18<unk>4 met og hlaut sjöunda Cy Young verðlaunin sín og varð þá elsti leikmaðurinn sem hefur unnið Cy Young verðlaunin 42 ára að aldri. Þetta gerði hann að einum af sex pitchers til að vinna verðlaunin í báðum deildum, sameinast Gaylord Perry, Pedro Martínez, og Randy Johnson og síðar sameinast Roy Halladay og Max Scherzer. Clemens tapaði fyrir Astros í sjöunda leiknum.
2004 NLCS gegn St. Louis Cardinals, leyfði 4 hlaup í 6 innings af vinnu. Þótt hann hafi kastað vel, þreyttist hann í sjötta innistöðunni og gaf upp öll fjögur hlaup.