Í orrustunni við Lee's Mills, 16. apríl 1862, leiddi hann skermstöðvarflokk snemma í átökunum. Þann 13. desember 1862, í Slaginu við Fredericksburg, leiddi liðsforingi Foster 4. Vermont infanteríflokkinn á bardagalínunni fyrir framan deild Howe í VI liði. Í bardaga við Winchester
Foster var yfirmaður Vermont-liðsins.