ibm vừa giới thiệu một công cụ giúp kiểm soát và giảm sự thiên vị của trí tuệ nhân tạo ai trong phân biệt đối xử trí tuệ nhân tạo biến hình ảnh món ăn thành công thức chế biến amazon và thành công đột phá nhờ trí tuệ nhân tạo robot y tá và bác sĩ trí tuệ nhân tạo thống trị y học tương lai với đặc trưng là do con người tạo ra và tự đào tạo dưới dạng máy học machine learning trí tuệ nhân tạo có những hạn chế nhất định với nguyên nhân thiên vị bởi chính con người điều này có thể gây ra sự thiên vị hay phân biệt đối xử với một nhóm đối tượng nào đó ví dụ như phụ nữ hoặc người dân tộc thiểu số chỉ cách đâu một tuần amazon đã phải ngừng một trong những công cụ ai của mình liên quan đến việc tuyển dụng công cụ này đã có những thiên vị nhất định khi sẽ ưu tiên tuyển dụng nhân viên là nam hơn là nữ vào công ty hay xa hơn đối với công nghệ nhận diện khuôn mặt của microsoft và ibm trước đây trí tuệ nhân tạo có thể xác định chính xác hơn khuôn mặt của những người đàn ông và là người da trắng hơn là phụ nữ người da màu mọi chuyện bắt đầu khi nhà nghiên cứu joy buolamwini của media lab tại mit xây dựng bộ dữ liệu 1270 khuôn mặt sử dụng khuôn mặt từ các chính trị gia được lựa chọn dựa trên bảng xếp hạng về bình đẳng giới hay nói cách khác là có số lượng phụ nữ làm việc trong công sở đáng kể sau đó joy đã kiểm tra tính chính xác của ba hệ thống nhận dạng khuôn mặt lần lượt do microsoft ibm tạo ra kết quả cho thấy có sự sai sót khác nhau về nhận dạng giới tính tùy thuộc vào màu da của một người nhận dạng giới tính sai chỉ chưa tới 1 với những người đàn ông da trắng và lên đến 7 với phụ nữ da trắng thế nhưng sai số lên đến 12 ở đàn ông da màu và đến 35 ở phụ nữ da màu kết quả này cho thấy các đối tượng nam được phân loại chính xác hơn các đối tượng nữ và những đối tượng có da trắng cũng được phân loại chính xác hơn các đối tượng da màu joy buolamwini gần đây đã nói với aaron pressman của trang fortune rằng sự thiếu đa dạng trong các nhóm phát triển dữ liệu đầu vào cũng có thể góp phần vào sự thiên vị dựa trên các thuật toán ibm muốn giúp các công ty giảm thiểu các lỗi mà các công nghệ trí tuệ nhân tạo của họ không chủ ý phân biệt đối xử với các nhóm nhất định như phụ nữ và dân tộc thiểu số ngoài ibm một số công ty cũng bắt đầu phát triển các công cụ để kiểm tra công nghệ ai như google và microsoft hãng này cho biết công cụ được xây dựng trên dựa trên dịch vụ điện toán đám mây của công ty và nó được tạo ra cho những người kinh doanh dễ dàng làm việc hơn các công cụ tương tự khác chỉ dành cho các nhà phát triển tuy nhiên mặc dù bắt đầu có những công cụ giúp kiểm tra ai vấn đề thiên vị có thể sẽ tiếp tục tồn tại bởi vì gốc rễ sự việc thực tế lại nằm ở phần lõi của công nghệ ai và do con người sau ba năm phát triển các họa sĩ chuyên vẽ anime hoạt hình nhật bản đã có thể tạo ra hàng ngàn nhân vật hoạt hình mới nhờ sự hỗ trợ của trí tuệ nhân tạo ai trung quốc tuyên bố đến năm 2030 sẽ trở thành trung tâm sáng tạo trí tuệ nhân tạo chủ yếu của thế giới sự kết hợp của ai và y tế đã giúp giải mã những thông tin di truyền được giấu kín bao lâu nay trong bộ gene của loài người công nghệ những tưởng chỉ dành cho các nền kinh tế phát triển nay đã xuất hiện ở việt nam an nhiên theo fortune