Lengkepan kalimat di handap ieu: Baldwin lahir di Dutchess County, New York, sarta digedékeun di kebon kulawarga di dinya. Manéhna sakola di Red Creek, New York, sarta saterusna ngajar di Rhode Island jeung Connecticut. Tanggal 13 April 1861, manéhna ngagabung jeung Angkatan Darat Uni babarengan jeung opat lanceukna, salah sahijina bakal tiwas dina aksi di
Patempuran Resaca. Manéhna mimitina kapilih salaku kaptén pikeun Company C, 36th Régimén, Infanteri Sukarelawan Illionis. Régimén ieu dikirim ka Missouri, sarta dina bulan Pebruari 1862 manéhna dijadikeun quartermaster. Dina bulan Agustus taun anu sarua manéhna dipromosikeun jadi Letnan Kolonel, leuwih 8th Régiment Missouri Volunteer Cavalry.