Социальное исключение как побочный эффект механизмов нейрообучения
В условиях развития нейросетевых технологий и внедрения их в процессы принятия решений на уровне таких значимых социальных институтов, как здравоохранение, образование, трудоустройство и других, встает вопрос о корректности использования искусственного интеллекта в подобной деятельности. Основная цель работы - рассмотреть возникновение и воспроизводство социального исключения, неравенства и дискриминации в обществе как результат процесса нейрообучения. Под нейрообучением понимаются принципы обучения любых нейронных сетей. Социальная эксклюзия и вытекающая из нее дискриминация в решениях, принимаемых искусственным интеллектом, рассматривается как последствие принципов обработки больших данных. Обозреваются теории зарубежных и российских авторов, затрагивающие влияние искусственного интеллекта на укрепление существующего социального порядка, а также проблемы с обработкой и интерпретированием данных для обучения на них компьютерных систем. Кроме того, приводятся реальные ситуации, в которых специфика самих данных и их интерпретация привели к усилению неравенства и эксклюзии. В связи со схожестью функционирования естественных и искусственных нейросетей делается вывод об источниках социального исключения и стигматизации в обществе. Высказывается предположение, что именно принципы нейрообучения в «естественном» обществе ведут не только к дискриминации на макроуровне, но и обусловливают негативные реакции по отношению к представителям эксклюзированных групп, например, межнациональную ненависть, гомофобию, сексизм и прочее. Поднимается вопрос о возможности изучения «естественного» общества в сравнении с «искусственным».