Baumann lahir di Schramberg, di mana ia menerima Abiturnya pada tahun 1973 dari Gymnasium Schramberg. Ia kemudian belajar ilmu sosial dan manajemen di Universitas Konstanz, mengkhususkan diri dalam manajemen internasional, dan pada tahun 1975 belajar sejarah seni di Universitas Bristol, di Inggris. Ia memperoleh gelar dalam administrasi publik pada tahun 1979 dari Universitas Konstanz dan melanjutkan untuk mendapatkan gelar doktor dalam ilmu politik pada tahun 1992 dari Universitas Carleton di Ottawa, Ontario, Kanada. Istrinya, Barbara Gibson, adalah seorang diplomat Kanada. Ia menjabat dari tahun 2004 hingga 2008 sebagai duta besar untuk Organisasi untuk Keamanan dan Kerjasama di Eropa di Wina, pada tahun 2015 sebagai Wakil Sekretaris Jenderal dan pada tahun 2016 sebagai Sekretaris Jenderal ICM, Komisi Independen tentang Multilateralisme (ICM) di New York.
Universitas Bristol