Na batalla de Lee's Mills, o 16 de abril de 1862, liderou unha compañía de escaramuzas no inicio do combate. O 13 de decembro de 1862, na batalla de Fredericksburg, o tenente coronel Foster liderou a 4a Infantería de Vermont na liña de escaramuza diante da división de Howe do VI Corpo. Na batalla de Winchester
O coronel Foster tiña o mando da Brigada de Vermont.