माझा असा तर्क आहे की क्रेडिट स्कोअरिंगच्या परिणामांमध्ये फरक डेटा समस्या आणि अल्गोरिदम बायस दोन्ही आहे. चला प्रथम डेटासेटमधील बायसचे परीक्षण करूया. मी मॉडेल स्वतः ला एक ब्लॅक बॉक्स म्हणून विचार करतो जे विशिष्ट उद्दीष्टे पूर्ण करण्यासाठी आउटपुट तयार करते. क्रेडिट स्कोअरिंगच्या बाबतीत, उद्दीष्ट म्हणजे डीफॉल्ट जोखीम अंदाज, अचूकता आणि अचूकता. प्रशिक्षित नसलेल्या आवृत्तीमध्ये हे मॉडेल परदेशी कामगार, महिला किंवा तरुणांवर भेदभाव करत नाही: खरं तर, ते या (सामाजिकरित्या तयार केलेल्या) लेबलांची कल्पना माणसांप्रमाणे करत नाही. तरीही, मॉडेलला प्रशिक्षित केलेला डेटासेट सामाजिकरित्या तयार केलेल्या पूर्वग्रहांनी भरलेला आहे. उदाहरणार्थ, सामाजिक नियम स्त्रियांना अकार्यक्षम, परदेशी कामगारांना अविश्वसनीय आणि तरुणांना अनुभवहीन म्हणून चित्रित करतात, ज्यामुळे या गटांसाठी उच्च बेरोजगारी दर आणि वाईट जीवनशैली निर्माण होते. त्यांच्या परिणामी उच्च ऐतिहासिक चूक संभाव्यता सामाजिक रूढींनी व्युत्पन्न केलेल्या कुरूप चक्रांपेक्षा लोकसंख्याशास्त्रीय-संबंधित क्षमतेतील फरकांमुळे कमी प्रमाणात उद्भवते. स्टिरिओटाईप डेटासेटला पक्षपाती बनवतात, ज्यामुळे अल्गोरिदममध्ये पक्षपातीपणा येतो: अंदाज अचूकता वाढविण्याचे ध्येय दिले तर मॉडेल डेटासेटमधील <unk>पॅटर्न<unk> शिकते आणि त्याच्या अंदाज अल्गोरिदमचा एक भाग म्हणून सामाजिकरित्या तयार केलेले फरक शोषते. आपण अल्गोरिदमला दोष देऊ शकतो का? <unk> शेवटी, मॉडेल <unk>इतिहास<unk> पर्यंत मर्यादित आहे आणि ऐतिहासिकदृष्ट्या भेदभाव केलेल्या गटांच्या संभाव्यतेसाठी कल्पनाशक्ती क्षमता नाही. मुळात आपल्याकडे "कचरा आत, कचरा बाहेर" परिस्थिती आहे जी डेटा इनपुटमधील ऐतिहासिक आणि प्रतिनिधित्व पूर्वग्रहांमुळे उद्भवली आहे.  दुसरीकडे, मी म्हणते की परिणामातील फरक अजूनही एक अल्गोरिदम बायस आहे. मला असे वाटते की आपण अद्याप मॉडेलला उद्दीष्टे आणि मर्यादा पूर्ण करण्यासाठी "दोष देऊ" शकतो (जरी आपण मानव त्यांना प्रथम स्थानावर ठेवले असले तरीही). वर दाखवल्याप्रमाणे, मूल्यमापन मेट्रिक म्हणून अचूकतेसह, संपूर्ण भविष्यवाणी / पूर्वानुमान अल्गोरिदम ऐतिहासिक डेटासेटवर आधारित आहे जे संभाव्य किंवा सामाजिक निकषांचा शोध न घेता इतिहासाची पुनरावृत्ती करण्यासाठी आहे. जास्तीत जास्त अचूकतेचा हेतू हा स्वतः एक पक्षपातीपणा आहे का? <unk> जर आपण सामाजिकदृष्ट्या तयार केलेल्या मिथक (कमकुवत स्त्रिया, बेजबाबदार तरुण आणि विदेशी द्वेष) द्वारे तयार केलेले आणि पुनरुत्थित केलेले दुष्टचक्र ओळखू शकलो तर, सक्रियपणे काही प्रकारचे सामाजिक रूढी शिकणारे आणि प्रसारित करणारे मॉडेल निश्चितपणे त्याच्या पक्षपातीपणासाठी कॉल केले पाहिजे! मात्र, आम्ही हे लक्ष्य चांगल्या प्रकारे साध्य करण्यासाठी मॉडेलला कठोरपणे बांधून ठेवतो. आणि मेट्रिक्समधील अंतर्निहित पक्षपातीपणा दूर करण्यासाठी, आम्ही माणसं उद्दिष्टे बदलण्याची आणि योग्य निर्बंध जोडण्याची जबाबदारी घेतो. उदाहरणार्थ, प्रोग्रामिंग असाइनमेंटमध्ये आपल्याला कमी करण्याचे तंत्र आढळते जे एका विशिष्ट निर्णयाच्या मर्यादेत अंदाज नाकारते. सक्रीय नकार यासारख्या तंत्राव्यतिरिक्त, आपण निर्बंध जोडू शकतो जसे की वंचित गटांच्या वाढीस प्रोत्साहन देणे हे एक उद्दीष्ट म्हणून? या निर्बंधांशिवाय, मी म्हणेन की परिणामातील फरक देखील ऑब्जेक्टिव्ह स्पेसिफिकेशनच्या भागामध्ये अल्गोरिदमिक पूर्वाग्रह बनवतात.
क्रेडिट स्कोअरिंग अल्गोरिदममधून दोन जातीय / लिंग गटांमधील अंदाज परिणामांमध्ये फरक डेटा संकलन प्रक्रियेत किंवा अल्गोरिदममध्येच एक पूर्वग्रह आहे का?