1862 m. balandžio 16 d. mūšyje prie Lee's Mills'o jis vadovavo kariuomenei. 1862 m. gruodžio 13 d. Fredericksburgo mūšyje leitenantas pulkininkas Fosteris vadovavo 4-ajam Vermonto pėstininkų divizijai prieš Howe'o VI korpuso diviziją. Vinschestro mūšyje
Pulkininkas Fosteris vadovavo Vermonto brigadai.