Isulat ang pagpadayon niining parapoha - Si Baldwin natawo sa Dutchess County, New York, ug nagdako sa umahan sa pamilya didto. Siya nagtungha sa hayskul sa Red Creek, New York, ug sa ulahi nagtudlo sa eskuylahan sa Rhode Island ug Connecticut. Niadtong Abril 13, 1861, siya miapil sa Union Army uban sa iyang upat ka mga igsoon, nga ang usa kanila namatay sa paglihok sa Battle of Resaca
. Siya sa sinugdan gipili ingong kapitan sa Company C, 36th Regiment, Illinois Volunteer Infantry. Ang regimiento gipadala ngadto sa Missouri, ug sa Pebrero 1862 siya gihimo nga quartermaster. Niadtong Agosto sa mao gihapong tuig siya gipromot nga tinugyanan sa kolonel, sa ika-8 nga Regiment sa Missouri Volunteer Cavalry.