Po propuštění v výměně vězňů byl povýšen do hodnosti brigádního generála a vyslán do západního Tennessee, kde převzal velení smíšené brigády vojáků z Mississippi a Tennessee. Baldwin se později zúčastnil bitvy u Port Gibson.
a Champion's Hill během Vicksburgské kampaně. Baldwin byl zajat, když padl Vicksburg. Po výměně byl přidělen do okresu Mobile. Tam byl zabit při nehodě, kdy mu u řeky Dog v Alabamě spadl z koně zlomený stopalec.