Hội đồng Olympic Malaya được hình thành vào năm 1953, và được IOC công nhận vào năm 1954. Malaysia lần đầu tiên tham gia Thế vận hội vào năm 1956 tại Melbourne. Hội đồng được đổi tên hành Hội đồng Olympic Malaysia vào năm 1964, và tham gia hầu hết các kỳ Thế vận hội kể từ khi ra đời (trừ Thế vận hội năm 1980 tại Moskva). Số vận động viên lớn nhất mà Malaysia cử tham gia Thế vận hội là 57 trong Thế vận hội Mùa hè 1972. Các vận động viên Malaysia giành được tổng cộng sáu huy chương Thế vận hội, trong đó có năm huy chương tại môn cầu lông. Quốc gia tranh tài trong Đại hội thể thao Thịnh vượng chung kể từ năm 1950 với tên Malaya, và năm 1966 với tên Malaysia, đại hội từng được tổ chức tại Kuala Lumpur vào năm 1998.