Kredit toplama alqoritmindən iki etnik / gender qrupu arasındakı proqnozlaşdırma nəticələrinin fərqi, məlumat toplama prosesində və ya alqoritmdə qərəzli bir qərəz meydana gətirirmi?
Mübahisə edirəm ki, kredit balının nəticələrindəki fərqlər həm məlumat məsələsini, həm də alqoritmik qərəzini təşkil edir.Əvvəlcə verilənlər bazasında qərəzləri araşdıraq.Modelin özünü müəyyən hədəfləri yerinə yetirmək üçün çıxışları yaradan bir qara qutu kimi hesab edirəm - kredit skorinqi halında, məqsəd, standart risk proqnozlarının dəqiqliyi, geri çağırılması və dəqiqliyidir.Tələb olunmamış versiyasındakı model xarici işçilərə, qadınlara və ya gənclərə qarşı ayrıseçkilik etmir: əslində bu, insanların etdikləri şəkildə bu (sosial tikilmiş) etiketləri təsəvvür etmir.Yenə də modelin hazırlandığı məlumat bazası sosial baxımdan qurulmuş qərəzlərlə doludur.Məsələn, sosial normalar qadınları bacarıqsız, xarici işçilər kimi qeyri-qanuni və gənclər kimi təcrübədəki kimi, bu qruplar üçün daha yüksək işsizlik səviyyəsinə və daha pis yaşayış şəraitinə sahibdirlər.Nəticədə daha yüksək tarixi defolt ehtimalı, sosial stereotiplər tərəfindən yaradılan pis dövrlərdən daha çox demoqrafik əlaqəli fərqlərdən daha az ehtimal olunur.Stereotiplər alqoritmlərdəki qərəzli olan verilənlər üçün verilmişdir.Alqoritmi günahlandıra bilərikmi?- Axı, model "tarix" üçün məhdudlaşdırılır və tarixən ayrıseçkilik qruplarının potensialı üçün təsəvvür qabiliyyəti yoxdur.Əsasən məlumatların girişindəki tarixi və təmsil olunması qərəzindən qaynaqlanan "zibil, zibil" ssenarisi var.

Digər tərəfdən, nəticə fərqlərinin hələ də bir alqoritmik qərəz meydana gətirdiyini iddia edirəm.İnanıram ki, məqsəd və məhdudiyyətlər üçün modeli "günahlandıra bilər", bunun yerinə yetirməli olduğu və onları birinci yerdə qoysaq da).Yuxarıda göstərildiyi kimi, qiymətləndirmə metrikası kimi dəqiqliyi, tarixi məlumat bazalarında inşa edilmiş bütün proqnoz / proqnoz alqoritmi, potensial və ya sosial normalar axtarmadan tarixin təkrarlanması nəzərdə tutulur.Dəqiqliyi maksimum dərəcədə artırmaq məqsədi bir qərəzdən ibarətdirmi?- Hər ikisi də yaradılan və sosial hazırlanmış mifləri (zəif qadınlar, ehtiyatsız gənclər və ksenofobiya) tərəfindən yaradılan və yenidən qurulmuş, həm də cəmiyyət stereotipinin müəyyən növlərini fəal şəkildə öyrənən və təbliğ edən bir modeldən fərqlənə bilsək, şübhəsiz ki, onun qərəzinə görə çağırılmalıdır!Bununla birlikdə, bu hədəfləri optimallaşdırmaq üçün modelləri çətinləşdiririk və ölçüləri özəldən qərəzləri həll etmək üçün insanları hədəfləri dəyişdirmək və müvafiq məhdudiyyətlər əlavə etmək üçün məsuliyyət daşıyırıq.Məsələn, proqramlaşdırma tapşırığında müəyyən bir qərar sərhədində proqnozları rədd edən yumşalma texnikası ilə qarşılaşırıq.Aktiv rədd kimi texnikalardan əlavə, qeyri-adi qrupların böyüməsini məqsəd kimi tanıtmaq kimi məhdudiyyətlər əlavə edə bilərikmi?Bu məhdudiyyətlər olmadan, nəticə fərqləri də obyektiv spesifikasiya hissəsində bir alqoritmik qərəz meydana gətirir.