Ralstonista tuli sotilaspäälliköiden varapuheenjohtaja vuonna 1996. Hänet suosittiin päälliköksi vuonna 1997, mutta salaisen suhteen paljastumisen jälkeen hän pysyi varapuheenjohtajana toukokuuhun 2000 asti. Hänestä tuli sitten Pohjois-Atlantin liittouman (NATO) Euroopan ylimmäinen liittoutuneiden komentaja tammikuuhun 2003 asti, jolloin hän jäi eläkkeelle. Bill Clinton kirjoittaa muistelmissaan "My Life", että Ralstonia käytettiin ratkaisemaan mahdollisesti kipeä tilanne Pakistanin kanssa, jossa Yhdysvallat käytti Pakistanin ilmatilaa iskemään Al-Qaidan järjestön kokoukseen Afganistanissa sen jälkeen, kun
USA:n lähetystön pommitukset Keniassa ja Tansaniassa. Yhdysvallat oli huolissaan siitä, että Pakistanin tiedustelupalvelut antaisivat vihjeen kohteista tai vielä pahempaa, että ohjukset Pakistanin yläpuolella tulivat Intiasta, mikä mahdollisesti aiheuttaisi ydinkonfliktin Intian mantereella. Kuten Clinton kirjoittaa sivulla 799 kirjassaan "My Life", "päätimme lähettää puolustusvoimien päälliköiden apulaisjohtajan kenraali Joe Ralstonin syömään päivällistä Pakistanin ylimmän armeijan komentajan kanssa silloin, kun hyökkäykset oli suunniteltu. Ralston kertoisi hänelle (pakistanilaiselle kenraalille) mitä oli tapahtumassa muutama minuutti ennen kuin ohjuksemme tunkeutuivat Pakistanin ilmatilaan, liian myöhään varoittaakseen Talebania tai Al-Qaidaa, mutta ajoissa välttääkseen heidän kaatumisensa tai vastahyökkäyksen käynnistämistä Intiaan".