Ngôn ngữ của người La Mã là tiếng Latin, nó đã được Vergil nhấn mạnh như một nguồn gốc của sự thống nhất và truyền thống của người La Mã. Cho đến tận thời của Alexander Severus (trị vì từ năm 222-235), Giấy khai sinh và chúc thư của công dân La Mã đều phải được viết bằng tiếng Latin. Tiếng Latin cũng còn là ngôn ngữ của các tòa án ở phía Tây và của quân đội trên khắp Đế quốc, nhưng lại không được áp dụng chính thức đối với những cư dân nằm dưới sự cai trị của người La Mã. Thánh Augustinô nhận xét rằng người La Mã ưa thích tiếng Latinh đến mức đã chấp nhận và thực hiện per societatis pacem, thông qua một hiệp ước xã hội. Chính sách này tương phản với của Alexandros Đại đế, vốn mong muốn nhằm biến tiếng Hy Lạp trở thành ngôn ngữ chính thức trên khắp đế chế của mình. Như là một hệ quả từ các cuộc chinh phục của Alexandros, ngôn ngữ Koine Hy Lạp đã trở thành ngôn ngữ chung ở khu vực quanh phía đông Địa Trung Hải và ở Tiểu Á "Biên giới ngôn ngữ họ" này đã phân chia đế quốc thành hai nửa với tiếng Latin ở Phía Tây và tiếng Hy Lạp ở Phía Đông thông qua bán đảo Balkan, tạo ra một hệ ngôn ngữ song song bên trong đế quốc La Mã.