Well, they could just be reflecting our biases, and these systems could be picking up on our biases and amplifying them and showing them back to us, while we're telling ourselves, "We're just doing objective, neutral computation."
ฉะนั้น มันอาจรับเอาอคติของเรา แล้วก็หยิบอคติเหล่านั้นออกมา ขยายให้รุนแรงขึ้น แล้วก็แสดงผลกลับมาให้เราดู ขณะที่เราพร่ำบอกตัวเองว่า "เรากำลังคำนวณอย่างเป็นกลาง ตามข้อเท็จจริง"