Syntynyt Newportissa, New Hampshiressä, Belknap nimitettiin meripojaksi vuonna 1847. Hän komensi tarkkailijaa Fort Fisherin taistelussa.
, ja sotalaiva Formosa-retkellä 1867. Hän oli ylimpi upseeri, joka oli läsnä mellakoissa, jotka seurasivat David Kalākauan valitsemista Havaijilla vuonna 1874.