Hội Hiệp tiến Thể dục Toàn quốc Trung Hoa được thành lập vào ngày 24 tháng 8 năm 1924, năm 1931 được Ủy ban Olympic Quốc tế thừa nhận là Ủy ban Olympic Trung Quốc. Năm 1932, vận động viên người Đông Bắc Lưu Trường Xuân cự tuyệt đại diện cho Mãn Châu Quốc, mà đại diện cho Trung Hoa Dân Quốc tham gia Thế vận hội, cũng là lần đầu tiên Trung Quốc tham gia Thế vận hội. Đến Thế vận hội 1936, Trung Hoa Dân Quốc chính thức tổ chức đội đại biểu quy mô lớn sang Berlin, Đức thi đấu 7 môn. Trong Thế vận hội 1948 tại Luân Đôn, đoàn đại biểu Trung Quốc tham gia thi đấu 5 môn.