5. desember 1996 tilkynnti Bill Clinton forseti að hann hefði valið Cohen til varnarmálaráðherra og sagði að hann væri "rétt manneskja" til að byggja á árangri William Perry (varnarmálaráðherra sem var að hætta störfum) "til að tryggja stuðning báða flokka sem vopnaðir hermenn Bandaríkjanna þurfa að hafa og eiga greinilega skilið". Sem varnarmálaráðherra átti Cohen stóran þátt í að stjórna hernaðaraðgerðum Bandaríkjanna í Írak og Kósóvó, þar á meðal afskráningu Wesley Clark frá starfi sínu sem æðsti yfirmaður bandamanna NATO. Bæði Operation Desert Fox í Írak og Operation Allied Force í Kósóvó voru hleypt af stokkunum nokkrum mánuðum eftir að al-Qaeda framdi sprengjuárásirnar á bandaríska sendiráðið.
í Dar es Salaam í Tansaníu og í Nairobi í Kenía árið 1998.