Mediante la Ley de presupuesto y contabilidad de 1921, el Congreso estableció la Oficina de Asuntos Jurídicos en el poder legislativo con el amplio papel de investigar todos los asuntos relacionados con la recepción, el desembolso y la aplicación de fondos públicos y formular recomendaciones que busquen una mayor economía o eficiencia en los gastos públicos.
El GAO se estableció en los años 50 como parte de los esfuerzos para combatir el comunismo.