Nacido en Port Hope, Ontario, Canadá Superior, Belnap, o neto do veterano da Guerra Revolucionaria Americana Jesse Belnap, quedou orfo aos 10-12 anos. Uníndose a unha compañía estadounidense de gardas de cabalos lixeiros como primeiro sarxento, foi levado como prisioneiro de guerra na rebelión do Alto Canadá.
- Non. Tras a súa liberación, finalmente foi a Kirtland, Ohio, onde foi bautizado como membro da Igrexa de Xesucristo dos Santos dos Últimos Días en 1842. Pouco despois do seu bautismo, serviu nunha misión con John P. Greene ao norte do estado de Nova York.