Ngay sau khi tướng Douglas D. Gracey, chỉ huy quân đội Anh, đến Sài Gòn ông ra lệnh cho quân đội Nhật tước vũ khí của người Việt Nam, đuổi Ủy ban Hành chính Lâm thời Nam Bộ ra khỏi Dinh Toàn Quyền ở Sài Gòn. Chỉ huy quân đội Nhật, Thống chế Terauchi, điều 7 tiểu đoàn vào Sài Gòn để tước vũ khí người Việt. Nhật đòi Ủy ban Hành chính Lâm thời Nam Bộ phải tước vũ khí và giải tán lực lượng vũ trang của Việt Nam. Trên thực tế, chỉ có Cao Đài, Hòa Hảo và Bình Xuyên có lực lượng vũ trang có tổ chức còn Việt Minh và những người Trotskyist chỉ có lực lượng tượng trưng do đó lệnh tước vũ khí áp dụng chủ yếu cho các giáo phái này. Người Pháp ngay lập tức treo cờ Pháp lên tất cả các công sở và xe quân sự. Phạm Văn Bạch gửi phái đoàn OSS một bức điện thông báo tình hình và yêu cầu phái đoàn thay mặt Đồng Minh chứng minh quyền được độc lập của nhân dân Việt Nam và tuyên bố Việt Nam đã hoàn toàn độc lập, người Việt có quyền tự quyết định số phận của mình.