Clemensas išėjo iš pensijos ir pasirašė vienerių metų kontraktą su savo gimtajame Hiustono Astroso klube 2004 m. Sausio 12 d., prisijungdamas prie artimo draugo ir buvusio "Yankees" komandos draugo Andy Pettitte'o. 2004 m. Gegužės 5 d. Clemensas užfiksavo savo 4 137 strikoutą karjeroje ir tapo antruoju visų laikų žaidėjų sąraše po Nolan Ryan. Jis buvo pavadintas Nacionalinės lygos "Visų žvaigždžių" komandos starteriu, bet galiausiai buvo pralaimėjęs šuolis tame žaidime, po to, kai leido šešis bėgimus iš penkių smūgių, įskaitant trijų bėgimų "home run" Alfonso Soriano. Clemensas baigė sezoną su 18<unk>4 rezultatu ir buvo apdovanotas savo septintuoju "Cy Young" apdovanojimu, tapdamas seniausiu žaidėju, laimėjusiu "Cy Young" 42 metų amžiaus. Tai padarė jį vienu iš šešių krepšininkų, laimėjusių šį apdovanojimą abiejose lygoje, prisijungus prie Gaylord Perry, Pedro Martínez ir Randy Johnson, o vėliau prie jų prisijungė Roy Halladay ir Max Scherzer. Clemensas buvo pralaimėjantis Astros krepšininkas 2004 m. NLCS 7-oje rungtynėje.
prieš "St. Louis Cardinals", leidžiant 4 bėgimus per 6 rungtynes. Nors jis gerai žaidė, jis pavargo šeštoje rungtynėse, atidavęs visus keturis taškus.