天平の丘公園の隣には広大な国分寺跡が広がっています。こちらは国の史跡に指定されている土地をなっています。入り口の道路を挟んだ向かい側に駐車場があります。シモツケラボではこの広場で定期的にペットボトルロケット大会を開催しています。国分寺跡の敷地の中に甲塚古墳があります。前方後円墳で、古墳の周りは整備されていますが、中には入ることができません。しもつけ風土記の丘資料館に行ったあとに立ち寄ると、より楽しむことができます。奥に進むと七重塔の跡や、鳥瞰図などがあり、さらにその奥は森林と遊歩道があります。