クレメンスが引退し 2004年1月12日に 養子故郷のヒューストン・アストロスと 1年間の契約を結び 親しい友人で元ヤンキースのチームメイトの アンディ・ペッティットに加わりました 2004年5月5日,クレメンスはキャリア4,137回目のストライクアウトを記録し,ノーラン・ライアンに次ぐ2位にランクインした. 彼はナショナルリーグのオールスターチームでスターターに選ばれたが,最終的にアルフォンソ・ソリアーノの3ランホームランを含む5ヒットで6ランを打った後に,その試合で敗れたピッチャーとなった. クレメンスは18<unk>4の記録でシーズンを終え,第7回サイ・ヤング賞を受賞し,42歳でサイ・ヤング賞を受賞した史上最年長の選手となった. これにより,ゲイルード・ペリー,ペドロ・マルティネス,ランディ・ジョンソン,後にロイ・ハラデイ,マックス・シェルザーに加わった6人の投手のうち1人となった. クレメンスはアストロスの敗者でした
セントルイス・カーディナルズとの2004年NLCSで6局で4ランを打った. 投手は良いが,第6局で疲れ果てて,全4ランを落とした.