Smith lahir di White Plains, New York. Smith bertugas di Angkatan Laut AS, dan kemudian memperoleh gelar B.Sc. dari University of Pennsylvania pada tahun 1955 dan gelar Ph.D. dari University of Chicago pada tahun 1959 dengan disertasi hanya delapan halaman. Dia bekerja di Bell Labs di Murray Hill, New Jersey dari tahun 1959 hingga pensiunnya pada tahun 1986, di mana ia memimpin penelitian tentang laser baru dan perangkat semikonduktor. Selama masa jabatannya, Smith dianugerahi puluhan paten dan akhirnya memimpin departemen perangkat VLSI. Pada tahun 1969, Smith dan Willard Boyle menemukan Charge-Coupled Device (CCD), yang mana mereka bersama-sama telah menerima Franklin Institute's Stuart Ballantine Medal pada tahun 1973, 1974 IEEE N. Morris Liebmann Memorial Award, Charles Draper Stark Prize, 2006 dan Hadiah Nobel dalam Fisika 2009. Pertanyaan: Siapa yang melayani Smith?
Angkatan Laut AS