Năm 1896, tỉnh lị của tỉnh Hà Nội được dời ra làng Cầu Đơ thuộc tổng Thanh Oai Thượng, huyện Thanh Oai. Để tránh trùng tên với thành phố Hà Nội, năm 1902, tỉnh Hà Nội được đổi tên thành tỉnh Cầu Đơ theo tên của tỉnh lị. Ngày 6 tháng 12 năm 1904, quan toàn quyền Đông Dương ra nghị định đổi tên tỉnh Cầu Đơ và tỉnh lị của tỉnh này thành “Hà Đông”. Tên gọi “Hà Đông” là do quan đốc học tỉnh Cầu Đơ Vũ Phạm Hàm đề xuất, lấy từ một câu nói của Lương Huệ vương được ghi trong sách Mạnh Tử là “河內凶，則移其民於河東，移其粟於河內” (âm Hán Việt: Hà Nội hung, tắc di kỳ dân ư Hà Đông, di kỳ túc ư Hà Nội), có nghĩa là Hà Nội bị mất mùa thì chuyển dân ở Hà Nội sang Hà Đông, chuyển lương thực ở Hà Đông sang Hà Nội. “Hà Nội” trong câu nói trên của Lương Huệ vương là chỉ vùng phía bắc sông Hoàng Hà, còn “Hà Đông” là chỉ vùng phía đông sông Hoàng Hà, thuộc tây nam bộ tỉnh Sơn Tây của Trung Quốc ngày nay.