Như là Chủ tịch của "Ủy ban Tên lửa von Neumann" đầu tiên, và như là một thành viên của Commission for Atomic Energy sau này, bắt đầu từ 1953 cho đến cái chết của ông vào 1957, ông là khoa học gia với nhiều uy thế chính trị nhất ở Mỹ. Thông qua ủy ban của ông, ông phát triển nhiều tình huống khác nhau của việc chạy đua vũ trang hạt nhân, sự phát triển của các tên lửa liên lục địa và các tên lửa phóng lên từ tàu ngầm mang đầu đạn hạt nhân, và thế cân bằng chiến lược còn nhiều tranh cãi gọi là Chắc chắn Hủy diệt lẫn nhau (Mutually Assured Destruction). Có thể nói ông là bộ óc đằng sau các khía cạnh "khoa học" của Chiến tranh Lạnh đã tạo ra điều kiện trong bốn mươi năm của thế giới phương Tây.