Belknap fæddist í Newport í New Hampshire. Hann var skipaður sjómeistari árið 1847. Hann skipaði eftirlitsmönnum í árásunum á Fort Fisher.
, og stríðsskúpan á Formosa-leiðangrinum árið 1867. Hann var æðsti yfirmaðurinn sem var viðstaddur í óeirðunum eftir að David Kalākaua var kjörinn konungur Hawaií árið 1874.