江戸時代は大名屋敷が建ち並ぶ地域であったが、1872年(明治5年)に都心部で起こった大火の後、明治新政府の諸官庁が設置されたことを契機に、1923年(大正12年)の関東大震災後に中央官庁街として整備された。「霞が関」は明治以降、外務省を指す言葉として定着した。地名の由来は古く、なんと日本書紀の時代にまで遡り、日本武尊(ヤマトタケルノミコト)が関所を設けた際に付けられたという説がある。駅名の表記は「霞ケ関駅」である。