În 1981, la vârsta de 23 de ani, Crumpton a devenit cel mai tânăr stagiar din clasa sa la CIA. Şi-a început cariera la CIA în divizia africană din Liberia în anii '80. În 1998-1999 a fost adjunct al şefului FBI la Secţia Operaţiunilor Internaţionale de Terorism, în timp ce era împrumutat de CIA. În 1998 a investigat atentatele Al Qaeda la ambasadele SUA din Kenya şi Tanzania şi atacul din 2000 al
USS Cole de pe coasta Yemenului. A fost implicat în Afganistan până în 2002, când a trecut la misiuni mai calme. A fost director adjunct al Centrului de Antiterorism din 1999 până în 2001 și șef al uneia dintre cele mai secrete divizii ale agenției, Divizia de Resurse Naționale, din 2003 până în 2005. În calitate de şef al Diviziei de Resurse Naţionale, a angajat-o pe actualul director al CIA, Gina Haspel, ca adjunct. El a fost, de asemenea, șeful răspunsului secret al SUA în Afganistan la atacul de la 11 septembrie 2001, fiind creierul răsturnării talibanilor în 90 de zile. A lucrat pentru CIA timp de 24 de ani, a fost coordonator al Departamentului de Stat pentru Antiterorism cu gradul de ambasador la mare, și s-a retras din serviciul guvernamental în 2007.