ハイは,マッキンリー大統領の下で,そしてマッキンリーの暗殺後, 7年近く,国務長官を務めました.
ティオドア・ルーズベルトの下で ハイはオープン・ドア政策の交渉を担当し 中国を全ての国との貿易に 平等に開放した 国際大国との交渉を担当しました イギリスとのヘイ・パウンズフォート条約,コロンビアとのヘイ・ヘラン条約 (最終的に批准されなかった),そしてついに,新たに独立したパナマ共和国とのヘイ・ブナウ・ヴァリヤ条約を交渉することで,ヘイはパナマ運河の建設の道を開いた.