社伝によれば、延暦21年(802)坂上田村麻呂が胆沢城を築き、多賀城から鎮守府を遷した際、別当の東北開拓経営の守護神として宇佐八幡より御分霊を勧請したことを創祀とします。神宮寺は安国寺(現在は廃寺)で、嘉祥3年(850)には別当職に任じられた慈覚大師円仁が金光明最勝王経を講じました。朝廷や武門の崇敬篤く、弘仁元年(810)嵯峨天皇より御宸筆の八幡宮印を賜りました。神宝や神領を寄進したと伝えられます。文治5年(1189)源頼朝は奥州合戦からの帰途に奉幣し、以後、すべての神事を鎌倉幕府の御願として執行することとしました。これによって武門の崇敬がさらに強くなり、奥州総奉行となった葛西氏やその重臣の柏山氏の外護により社運は隆盛しました。延元元年(1336)南北朝の兵乱のため、安国寺とともに焼失。5郡の棟別銭をもって再建しました。天正19年には豊臣秀吉が浅野長政に社殿を造営させ、神領を安堵したと伝えられます。江戸時代には仙台藩主・伊達氏より深く尊崇され、仙台藩筆頭の八幡宮とされました。藩費による社殿の修復・造営もたびたびで、現在の社殿は文化8年(1811)仙台城以北の奥七郡406ヶ村の総勧化によって造営されたものです。らを遣わして御代拝をされています。大正11年(1922)県社に昇格しました。