Belknap fæddist í Newport í New Hampshire. Hann var skipaður skipstjóri árið 1847. Hann skipađi eftirlitsmanninum í árásunum á
Barátta við Fort Fisher, og slúpan í Formosa-ferðinni árið 1867. Hann var æðsti yfirmaðurinn sem var viðstaddur í óeirðunum eftir að David Kalākaua var kjörinn konungur Hawaií árið 1874.