{"word_count": 928, "character_count": 6987}
Nous connaissons probablement tous des personnes s'étant déjà senties victimes de discriminations, par exemple lors d'un entretien d'embauche ou pour l'obtention d'un prêt. Ne serait-ce pas idéal si la technologie permettait d'éviter toutes les discriminations liées aux préjugés humains&#160;?Le «&#160;mythe de la neutralité objective des algorithmes&#160;»Aujourd'hui, un nombre toujours croissant de situations nécessitant de faire des arbitrages concernant des individus ou groupes d'individus impliquent l'utilisation d'outils numériques d'aide à la décision basés sur des techniques d'apprentissage automatique et de data mining. Au delà d'un souci certain d'efficacité, il est difficile de ne pas voir dans cette multiplication d'outils numériques une tentative d'apporter plus d'objectivité. Or, de nombreu.x.ses chercheu.r.se.s en informatique, en mathématiques ou en sociologie de l'innovation ont remis en cause ce qui a été appelé le « mythe de la neutralité objective des algorithmes ». Pour la mathématicienne Cathy O'Neil « un algorithme est une opinion cachée dans du code » (O'Neil, 2017) car il fait ce pour quoi son concepteur l'a créé. Elle montre dans son livre « Weapons of math destruction » qu'avec les techniques d'apprentissage automatique, qui se basent sur de très grandes quantités de données pour trouver des corrélations entre celles-ci et « apprendre » de ces corrélations pour effectuer des prédictions, que les discriminations de la vie normale, traduites sous forme de données peuvent ainsi se retrouver dans les algorithmes prédictifs. Pour ceux qui comprennent l'anglais, voici une courte vidéo qui explique de manière très simple ce que sont les biais algorithmiques et la manière dont ceux-ci apparaissent.https://www.youtube.com/watch?v=bWOUw8omUVg&#38;feature=emb_logoFair Maching LearningAfin de résoudre ce problème des biais algorithmiques susceptibles d'engendrer des discriminations, ce dont furent par exemple accusés certains algorithmes utilisés aux États-Unis pour prédire les risques de récidive de criminels (Angwin et al., 2016), plusieurs équipes de chercheurs ont commencé à développer des méthodes dites de fair machine learning pour rendre les algorithmes justes. D'après les mathématicien.ne.s de Harvard Ben Green et Lily Hu, ces méthodes reposent sur deux grandes approches indispensables et complémentaires. La première approche est procédurale&#160;: c'est la définition du concept d'équité, d&#160;'impartialité, sous la forme d'une procédure qui puisse guider le fonctionnement de l'algorithme. L'idée qui rend possible cette traduction du concept d'impartialité sous la forme d'une procédure définie est la croyance en «&#160;un usage et une signification communément acceptée de l'équité&#160;». La deuxième approche est statistique&#160;: c'est la définition du concept d'équité sous forme de métriques. Il s'agit d'évaluer un algorithme en faisant des résumés statistiques des résultats (outcomes) qu'il produit&#160;: celui-ci est considéré comme «&#160;juste&#160;» si les statistiques basées sur ses résultats respectent un certain nombre d'équilibres, tel que par exemple l'égalité des probabilités d'erreur entre les groupes (cet équilibre statistique est désigné par le label «&#160;disparate mistreatment&#160;» car il est censé éviter les phénomènes de disparate treatment) (Green et Hu, 2018, p.1-2). Les équipes de recherche de Microsoft par exemple ont été parmi les premières à développer ce type de méthodes. Parmi celles-ci, Cathy Dwork et ses collègues ont dès 2011 cherché à établir «&#160;une métrique permettant de déterminer, pour une tâche spécifique, le degré de similitude des individus par rapport à cette tâche&#160;» et à développer ensuite «&#160;un algorithme pour maximiser l'utilité de l’assujettissement à la contrainte d'équité selon laquelle des personnes similaires doivent être traitées de façon similaire.&#160;» (Dwork et al., 2011, p.1, traduction personnelle)Un exemple de «&#160;solutionnisme technologique&#160;»&#160;?Bien que ces méthodes de fair machine learning partent de bonnes intentions, on est en droit de se demander si elles ne constituent pas un exemple de ce que le chercheur Evgeny Morozov appelle le «&#160;solutionnisme technologique&#160;», c'est-à-dire la transformation de problème sociaux, politiques, sociétaux, en questions techniques auxquelles ont apporte des solutions numériques (Morozov, 2014). Certains chercheurs comme Green et Hu considèrent en effet que la faiblesse des méthodes de fair machine learning est de «&#160;rechercher une solution au problème d'équité qui se limite à la satisfaction de définitions techniques sans chercher à analyser de manière plus large le contexte social et moral&#160;» (Green et Hu, 2018, p.3, traduction personnelle). Ceux-ci avancent l'idée que «&#160;l'adoption d'outils d'apprentissage automatique dans des contextes sociaux avec des enjeux importants (comme par exemple dans des décisions de justice) devrait être autant une question de délibération démocratique que d'analyse technique&#160;» (Green et Hu, 2018, p.1, traduction personnelle).Actuellement, les technologies d'intelligence artificielle et d'apprentissage automatique sont en voie de s'implanter dans de nombreux domaines&#160;: dans les tribunaux ou à la sélection des universités par exemple. En tant que citoyens susceptibles d'être un jour confrontés à l'usage de ces technologies dans des contextes avec de forts enjeux sociaux, pensez-vous que des méthodes telles que le fair machine learning soient suffisantes et efficaces pour empêcher toute discrimination, ou pensez-vous vous aussi que la manière d'utiliser ce type de technologies devrait faire l'objet d'une réelle délibération démocratique&#160;?BibliographieAngwin, Julia, Larson, Jeff, Mattu, Surya, and Kirchner, Lauren, "Machine bias: There’s software used across the country to predict future criminals. And it’s biased against blacks.", ProPublica, May, 23, 2016.Dwork, Cynthia, Moritz Hardt, Toniann Pitassi, Omer Reingold, and Rich Zemel, "Fairness Through Awareness", ArXiv:1104.3913 [Cs], 2011. En ligne : http://arxiv.org/abs/1104.3913&#62; [accessed 20 March 2019].Green, Ben, and Lily Hu, "The Myth in the Methodology: Towards a Recontextualization of Fairness in Machine Learning", presented at the Machine Learning: The Debates workshop at the35thInternational Conference on Machine Learning, Stockholm,Sweden, 2018. En ligne : https://www.benzevgreen.com/wp-content/uploads/2019/02/18-icmldebates.pdf.Morozov, Evgeny, Pour tout résoudre, cliquez ici: l’aberration du solutionnisme technologique, traduit par Marie-Caroline Braud, Limoges, Fyp, 2014.O’Neil, Cathy, Weapons of math destruction: how big data increases inequality and threatens democracy, New York, Broadway Books, 2017.MultimédiaCrédit image - licence CC0 : https://www.security-insider.de/machine-learning-und-it-sicherheit-a-591288/Source de la vidéo : https://www.youtube.com/watch?v=bWOUw8omUVg