Болдуин Нью-Йорк мужийн Дачэс мужид төрж, гэр бүлийн фермд өссөн. Тэрээр Нью-Йоркийн Ред Крик хотод дунд сургуульд суралцаж, хожим Род Айланд болон Коннектикут хотод сургууль зааж байсан юм. 1861 оны 4-р сарын 13-нд тэрээр дөрвөн ахтайгаа хамт Холбооны армид элссэн бөгөөд тэдний нэг нь
Ресакагийн тулаан. Тэрээр анх Иллинойсын сайн дурын жанжин цэргийн 36 дугаар полк-ийн C компанийн даргаар сонгогдсон юм. 1862 оны 2-р сард Миссури мужид хүргэгдсэн. Тухайн оны наймдугаар сард тэрбээр Миссуригийн сайн дурын морьт цэргийн 8-р полк-ийн дэд хурандаа болсон юм.