"Indica un esempio di una situazione in cui un sistema di intelligenza artificiale ha preso una decisione di parte."
Nel 2016, il software di riconoscimento facciale di Amazon ha erroneamente associato 28 membri del Congresso a immagini provenienti da un database pubblico di foto segnaletiche di criminali. Questo esempio ha evidenziato come i sistemi di intelligenza artificiale possano prendere decisioni sbagliate basate su pregiudizi razziali e di genere presenti nei dati su cui sono addestrati.