1980. aastatel töötas Ilves ajakirjanikuna Vaba Euroopa raadiojaamas. Kui Eesti pärast Nõukogude Liidu kokkuvarisemist uuesti iseseisvaks sõltumatuks riigiks muutus, saadeti Ilves 1993. aastal  suursaadikuna USA-sse. Ta oli ka suursaadik Kanadas ja Mehhikos. Ajavahemikul 1996-2000 oli ta kaks korda välisminister ja üks valjuhäälsemaid toetajaid Eesti astumisel NATO-sse ja Euroopa Liitu. Ajavahemikul 2004-2006, enne Eesti Vabariigi presidendiks saamist, oli ta Euroopa Parlamendi liige.