But ProPublica, an investigative nonprofit, audited that very algorithm with what public data they could find, and found that its outcomes were biased and its predictive power was dismal, barely better than chance, and it was wrongly labeling black defendants as future criminals at twice the rate of white defendants.
i en offentlig rättegång. Men det granskande, icke-vinstdrivande företaget Pro-Publica, jämförde den med den offentliga data de kunde hitta, och fann att algoritmens utfall var partiskt och dess kraftfulla beräkningar usla, knappt bättre än slumpen, och att den felaktigt pekade ut svarta åtalade som presumtiva brottslingar dubbelt så ofta som vita åtalade.