Hän työskenteli Bell Labsissa Murray Hillissä, New Jerseyssä vuodesta 1959 eläkkeelle vuonna 1986, jossa hän johti tutkimusta uusista lasereista ja puolijohdelaitteista. Hänen toimikautensa aikana Smithille myönnettiin kymmeniä patentteja ja lopulta johti VLSI-laiteosastoa. Vuonna 1969 Smith ja Willard Boyle keksivät Charge-Coupled Device (CCD), josta he ovat yhdessä saaneet Franklin Instituutin Stuart Ballantine -mitaliin vuonna 1973, 1974 IEEE Morris Liebmann Memorial Awardin, Charles Draper Stark -palkinnon 2006 ja Nobel-palkinnon fysiikassa.
Yhdysvaltain laivasto