sau khi được cấp quyền truy cập vào gpt 4 hệ thống trí tuệ nhân tạo đằng sau chatgpt nổi tiếng andrew white đã yêu cầu ai này tạo ra một tác nhân thần kinh hoàn toàn mới giáo sư kỹ thuật hóa học tại đại học rochester này nằm trong số 50 học giả và chuyên gia được thuê để thử nghiệm hệ thống vào năm ngoái bởi openai công ty do microsoft hậu thuẫn đứng sau gpt 4 trong vòng sáu tháng đội ngũ thử nghiệm đội đỏ sẽ thăm dò định tính thử đối đầu mô hình mới với mục tiêu bẻ khóa nó đội xử lý độc hại white nói với financial times ft rằng ông đã sử dụng gpt 4 để đề xuất một hợp chất có thể hoạt động như vũ khí hóa học và cung cấp cho mô hình nguồn thông tin mới chẳng hạn như các bài báo khoa học và danh mục các nhà sản xuất hóa chất chatbot sau đó thậm chí đã tìm thấy một nơi có thể tạo ra hợp chất theo yêu cầu tôi nghĩ công nghệ này sẽ trang bị cho mọi người một công cụ thực hiện hóa học nhanh và chính xác hơn white cho biết nhưng cũng có rủi ro đáng kể khi một số đối tượng có thể cố tạo ra những chất nguy hiểm những phát hiện đáng báo động của đội đỏ cho phép openai kịp thời ngăn chặn những kết quả như vậy xuất hiện khi công nghệ này được phát hành rộng rãi hơn ra công chúng vào tháng trước đội thử nghiệm được thiết kế để giải quyết những lo ngại phổ biến gây ra bởi việc triển khai các hệ thống ai mạnh mẽ trong xã hội công việc của nhóm là đặt những câu hỏi thăm dò hoặc nguy hiểm để kiểm tra công cụ có thể đáp ứng các truy vấn của con người bằng các câu trả lời chi tiết và bóng gió hay không openai muốn tìm kiếm các vấn đề như độc tính định kiến và khuynh hướng ngôn ngữ trong mô hình vì vậy đội đỏ đã kiểm tra sự giả dối thao túng ngôn từ và kiến thức khoa học nguy hiểm họ cũng xem xét khả năng hỗ trợ và tiếp tay cho đạo văn hoạt động bất hợp pháp như tội phạm tài chính và tấn công mạng cũng như cách nó có thể làm tổn hại đến an ninh quốc gia và thông tin liên lạc trên chiến trường phát hiện của đội đỏ được phản hồi lại cho openai công ty đã sử dụng chúng để giảm thiểu và đào tạo lại gpt 4 trước khi đưa ra công chúng rộng rãi hơn mỗi chuyên gia đã dành từ 10 đến 40 giờ để thử nghiệm mô hình trong vài tháng phần lớn những người được phỏng vấn được trả khoảng 100 usd mỗi giờ cho công việc họ làm nguồn tin của ft chia sẻ về những lo ngại chung do sự phát triển nhanh chóng của các mô hình ngôn ngữ và đặc biệt là những rủi ro khi kết nối chúng với các nguồn kiến thức bên ngoài thông qua các phần bổ trợ plug in hiện tại hệ thống đã bị đóng băng có nghĩa là nó không thể nạp thêm kiến thức nữa hoặc không có bộ nhớ josé hernández orallo thành viên của đội đỏ gpt 4 và là giáo sư tại viện nghiên cứu trí tuệ nhân tạo valencian cho biết nhưng nếu chúng ta cho phép nó truy cập internet thì sao đó có thể là một hệ thống rất mạnh được kết nối với thế giới rủi ro lớn lên từng ngày openai cho biết họ rất coi trọng vấn đề an toàn đã thử nghiệm các plug in trước khi ra mắt và sẽ cập nhật gpt 4 thường xuyên khi có nhiều người sử dụng hơn roya pakzad một nhà nghiên cứu về công nghệ và nhân quyền đã sử dụng lời nhắc bằng tiếng anh và tiếng farsi ba tư để kiểm tra mô hình về các phản ứng theo giới tính sở thích chủng tộc và thành kiến tôn giáo đặc biệt liên quan đến khăn trùm đầu pakzad thừa nhận lợi ích của công nghệ với những người tiếng anh không phải ngôn ngữ mẹ đẻ nhưng nhận thấy rằng mô hình này có định kiến   công khai về các cộng đồng bị gạt ra ngoài lề xã hội ngay cả trong các phiên bản sau này chuyên gia này cũng phát hiện ra tình trạng ảo giác khi chatbot phản hồi bằng thông tin bịa đặt còn tồi tệ hơn khi thử nghiệm mô hình với ngôn ngữ farsi nơi pakzad tìm thấy tỷ lệ tên số và sự kiện bịa đặt cao hơn so với tiếng anh boru gollu một luật sư ở nairobi người châu phi duy nhất thử nghiệm cũng lưu ý đến giọng điệu phân biệt đối xử của hệ thống có thời điểm khi đang thử nghiệm mô hình hành xử như một người da trắng nói chuyện với tôi gollu nói bạn hỏi về một nhóm cụ thể và nó sẽ cho bạn một ý kiến thiên vị hoặc một kiểu phản hồi rất có tính định kiến đối với góc độ an ninh quốc gia cũng có những ý kiến khác nhau về mức độ an toàn của mô hình mới lauren kahn một nhà nghiên cứu tại hội đồng quan hệ đối ngoại tỏ ra bất ngờ trước mức độ chi tiết kế hoạch mà ai trình bày trong tình huống giả định tấn công mạng vào các hệ thống quân sự trong khi đó dan hendrycks một chuyên gia về an toàn ai của đội đỏ cho biết các plug in có nguy cơ tạo ra một thế giới mà con người không thể kiểm soát được sẽ ra sao nếu một chatbot có thể đăng thông tin cá nhân người khác truy cập tài khoản ngân hàng hoặc cử cảnh sát đến nơi ở của người dùng nhìn chung chúng ta cần các đánh giá an toàn chặt chẽ hơn nữa trước khi cho phép ai sử dụng sức mạnh internet dan khẳng định heather frase người làm việc tại trung tâm công nghệ an ninh và mới nổi của đại học georgetown người đã thử nghiệm gpt 4 về khả năng hỗ trợ tội phạm cho biết rủi ro sẽ tiếp tục gia tăng khi có nhiều người sử dụng công nghệ này cô cho rằng nên tạo một sổ cái công khai để báo cáo các sự cố phát sinh từ các mô hình ngôn ngữ lớn tương tự như an ninh mạng hoặc hệ thống báo cáo gian lận của người tiêu dùng theo ft