1998-ra O'Neill összpontosított Bin Ladenre, és létrehozott egy al-Kaida asztalt az osztályában. 1998 augusztusában
Két amerikai nagykövetséget bombáztak egymás után egyidejűleg Nairobiban, Kenyában és Dar es Salaamban, Tanzániában. O'Neill remélte, hogy részt vehet a nyomozásban, mert óriási ismereteket szerzett Osama bin Laden al-Kaida terrorista hálózatáról. Meggyőzte az FBI igazgatóját, hogy az ő irodájába bízza az ügyet, és Mary Jo White ügyész később azt mondta, "John O'Neill, a kelet-afrikai nagykövetségek bombázásának nyomozásában, létrehozta a sablonot a nemzetközi terrorizmus sikeres nyomozásaihoz világszerte".