Presidentti Bill Clinton ilmoitti 5. joulukuuta 1996 valitsemastaan Cohenista puolustusministeriksi sanoen, että hän oli "oikea henkilö" rakentamaan (eläkkeelle jäävän puolustusministerin) William Perryn saavutuksiin "varmistaakseen kahden puolueen tuen, jota Amerikan asevoimilla on oltava ja jonka he selvästi ansaitsevat". Puolustusministerinä Cohenillä oli suuri rooli Yhdysvaltain sotilaallisten toimien ohjaamisessa Irakissa ja Kosovossa, mukaan lukien Wesley Clarkin erottaminen hänen asemastaan Naton ylimmäisenä liittoutuneiden komentajana. Sekä Desert Fox -operaatio Irakissa että Operation Allied Force -operaatio Kosovossa käynnistettiin vain kuukausia sen jälkeen, kun al-Qaida suoritti USA:n suurlähetystön pommitukset.
Dar es Salaamissa Tansaniassa ja Nairobissa Keniassa vuonna 1998.