Sau đó, lúc 7h sáng ngày 12/7/1946, Việt Nam Công an vụ thực hiện phá vụ án phố Ôn Như Hầu. Chỉ đạo trực tiếp lực lượng công an phá vụ án này là các ông Lê Giản (Giám đốc Nha Công an Bắc bộ), Nguyễn Tuấn Thức (Giám đốc Công an Hà Nội) và Nguyễn Tạo (Trưởng nha Điệp báo Công an Trung ương). Lực lượng công an xung phong đã thực hiện khám xét các trụ sở Việt Nam Quốc dân Đảng (7 căn nhà) tại Hà Nội, bắt tại chỗ nhiều thành viên của Việt Nam Quốc dân Đảng cùng nhiều tang vật như truyền đơn, vũ khí, dụng cụ tra tấn, đồng thời phát hiện nhiều xác chết tại đó... Hơn 100 người bị bắt và một số người biến mất không dấu vết. Trong số các thành viên của Quốc dân Đảng bị bắt có một đại biểu Quốc hội Việt Nam khóa I là Phan Kích Nam. Theo điều tra của Nha công an, Việt Nam Quốc dân Đảng đang chuẩn bị những hành động khiêu khích rất nghiêm trọng. Dự định các thành viên của Việt Nam Quốc dân Đảng sẽ phục sẵn dọc đường quân Pháp diễu qua nhân ngày quốc khánh Pháp, bắn súng, ném lựu đạn để tạo ra những chuyện rắc rối giữa Pháp và Chính phủ, gây sự phá hoại hòa bình rồi tung truyền đơn hô hào lật đổ chính quyền và sau đó đứng ra bắt tay với Pháp.