{"word_count": 2740, "character_count": 19009}
Crédit : Adobe StockPourquoi voulons-nous créer des machines éthiques&#160;?Il semble a priori important de rendre les machines capables de résoudredes problèmes éthiques. En effet, des machines, algorithmes et intelligencesartificielles prennent de plus en plus de place dans nos vies. Des robotstraders prennent des décisions qui impactent l’économie, des algorithmes surinternet nous recommandent des vidéos en fonction de nos recherches. Bientôt,des intelligences artificielles proposeront des diagnostics médicaux,conduiront nos voitures, feront la guerre. Au vu de la place qu’occupe etoccupera la technologie dans nos vies, il est plus que crucial de leur donnerla capacité de distinguer le bien du mal, le juste de l’injuste, l’équitable del’inéquitable. De la possibilité de tester des systèmes avec l’IALors de son intervention, dans le cadre du séminaire "Aux limites de l'humain" organisé par le pôle Risques de la MRSH, M. Bonnet (docteur en Intelligence Artificielle, Professeur associé au Groupe de  Recherche en Informatique, Image Automatique et Electronique (GREYC)  a expliqué qu’il était intéressant de se servir des systèmes éthiques déjà organisés[1] afin de les intégrer directement dans les IA, sous forme algorithmique. Cela aiderait au développement rapide d’une éthique des IA. Mais une autre expérience, allant au sens inverse, pourrait aussi être envisagée. Ne peut-on pas se servir des IA comme un laboratoire d’expérimentation, une mise à l’épreuve des valeurs à faire primer en société ? C’est sur cette idée que nous réfléchirons ici.  Friedrich Nietzsche  vers 1875Dans son ouvrage&#160;Oui, l’homme fut un essai, Laphilosophie de l’avenir selon Nietzsche, Patrick Wotling explique que pourNietzsche le monde humain est un laboratoire&#160;: l’homme est un cobaye qu’ondoit utiliser pour mettre à l’épreuve des valeurs afin de voir si elles sont enaccord avec la vie. Les religions, dont le christianisme en Europe, ont prouvéque les valeurs qu’elles avaient instaurées sont issues du ressentiment ainsique du travestissement de la réalité par les faibles[2], des valeursqui déprécient la vie. Nietzsche souhaite faire advenir des surhumains[3], voie d’affirmation de la vie.Tandis que la voie actuelle est celle du Dernier homme[4], qui nie la vie. Nietzsche pensaitque les valeurs et les systèmes philosophiques étaient des manières d’éduqueret de cultiver l’homme. Il faut alors, selon lui, trouver et encourager cellesqui sont en faveur de la vie, afin de dépasser l’homme, le rendreindépendant&#160;; c’est cela le devoir des vrais philosophes, des philosophesauthentiques[5]. Néanmoins, lamise en place de ces valeurs et les expériences qui permettraient de les mettreà l’épreuve, devraient se faire sur une longue période. Tout comme la moraleissue du christianisme s’était faite chair en chaque homme par une longueinsémination, il en fallait de même pour les nouvelles valeurs. En effet Nietzsche ne pouvait pas prévoir nos problèmesactuels. L’avènement de la bombe atomique, l’environnement mis en péril… Si desvaleurs doivent être intégrées et, avant cela si elles doivent être«&#160;testées&#160;», il n’est plus question d’attendre un millénaired’évolution[6]. Nous noussommes mis en sursis nous-mêmes, et avons nous-mêmes compromis notre avenir.Mais c’est là que le rôle des IA peut être très intéressant. En effet, ilserait opportun de faire ces expérimentations en accéléré grâce aux IA. Ils’agirait certainement d’un long travail, mais pas impossible. Nous pourrionseffectivement essayer des systèmes de valeurs et des règles éthiques à traversdes IA afin d’en observer rapidement les limites et d’en corriger lesimperfections. Nous verrions ainsi si elles sont en faveur de la vie ou si lasimulation[7] faite avecles IA se solde par une dépréciation de la vie. Il n’y aurait de plus, grâce àcela, aucun dégât sur l’homme. C’est une idée à approfondir&#160;; des jeux[8] de simulation de vie surlesquels nous pourrions prendre appui pour démarrer existent[9].Quelle morale donner aux machines&#160;?En attendant, l’IA, outil d’aide à la prisede décision ne peut faire l’économie d’une éthique. Si dansl’avenir la voiture autonome circule sans conducteur, devrait-elle dévier de satrajectoire au risque d’écraser une personne afin d’éviter de tuer deuxpersonnes qui surgissent sur sa route&#160;? Peut-on quantifier la valeur de lavie humaine&#160;? Et, laisser mourir et tuer est-ce la même chose&#160;? Ledéontologisme hérité de Kant prône le respect des normes indiscutables&#160;:la vie humaine n’est guère quantifiable, c’est un droit inaliénable. Face à un dilemme,une machine programmée par de telles normes morales resterait paralysée, carelle ne reconnaîtrait pas la dimension éthique du dilemme. En effet, Kantlui-même refusait l’existence de dilemmes moraux&#160;: le devoir est toujourslimpide. Pour la morale kantienne tuer et laisser mourir n’ont pas la mêmevaleur éthique&#160;: si deux personnes surgissent sur le chemin d’une voitureautonome, leur mort est inévitable mais celle-ci est due à un accident. Acontrario, en déviant de sa trajectoire et en tuant une personne l’IAserait impliquée dans un acte intentionnel[10] etrépréhensible. Cependant si la vie humaine est admise comme la valeur suprêmepour les théories morales normatives, ne pas préférer le respect de deux vieshumaines à une seule paraît absurde[11]. Aucontraire, selon l’utilitarisme de J.S. Mill ce sont les conséquences qui font lavaleur morale d’un acte&#160;; il s’agirait donc d’opter pour la sauvegarde dedeux vies, au détriment d’une seule, même si cela impliquait une déviationintentionnelle de sa trajectoire. Mais n’y a-t-il pas des limites dans laquantification des conséquences&#160;? Les conséquences immédiates ou présuméessont calculées mais qu’en est-il des conséquences à moyen et long terme&#160;?D’ailleurs même si la grande majorité des personnes ont une visionconséquentialiste dans la présentation générale du dilemme en acceptant dedévier le véhicule pour sauver cinq personnes en tuant une seule (89% despersonnes sont d’accord avec cela), elles sont très peu nombreuses à accepterde le faire en utilisant autrui comme moyen[12]. Unetroisième théorie, celle du double effet, inspiré par Thomas d’Aquin sembleplus congruente avec nos intuitions morales pour la programmation desmachines&#160;: ce ne sont pas uniquement les effets qui comptent mais aussi lafaçon dont ils adviennent. Tuer et laisser mourir ne sont donc pas deux actesidentiques. Infliger délibérément un mal et accepter un mal comme conséquenceinévitable diffèrent éthiquement&#160;: la justification d’un acte est donc unedimension éthique que l’intelligence artificielle doit prendre en compte[13].Un problème éthique soulevé par l’IA est le risque de prophétie autoréalisatrice qu’elle peut provoquer. Cela est visible avec les logiciels de prédiction des récidives qui sont utilisés par les tribunaux pénaux aux États-Unis. Ces logiciels calculent à partir des caractéristiques sociales et les antécédents du prévenu la probabilité de récidive. L’efficacité du logiciel repose sur le recueil des données sociales et l’établissement des corrélations. Or, il paraît problématique de prédire le comportement individuel à partir des données collectives. Par ailleurs, en logique modale le possible s’oppose au réel et au nécessaire. Mais l’utilisation de tels logiciels peut induire l’effet Pygmalion ou Rosenthal[14] : les attentes sociales (ici les prévisions) risquent de créer une réalité ou renforcer une réalité déjà existante. Une autre difficulté dans la programmation de l’IA reposesur les choix axiologiques en vue d’une prise de décision. Les valeurs ont unecertaine constance interculturelle mais leur hiérarchie change[15]. L’intelligenceartificielle doit donc être programmée pour prioriser les valeursprépondérantes à une société donnée[16].Cependant en ce faisant elle éliminerait les valeurs des minorités présentes ausein de chaque société. Comment l’IA peut-elle s’aligner sur les valeursdominantes tout en respectant les valeurs des minorités&#160;? Entériner lesvaleurs dominantes en les intégrant dans l’IA peut contribuer à freiner leurchangement éventuel en les inscrivant de façon fixiste. Les valeurs promuesdéterminent la décision prise. Dans le cas des logiciels de prédiction derécidives, le calcul de probabilités une fois fait, la présentation desrésultats par le système n’est pas neutre mais révèle les valeurs induites danssa programmation : un même risque peut être interprété comme élevé ou bas enfonction du cadre d’interprétation. Si l’accusé présente 70% des risques derécidiver et la valeur dominante du système est la sécurité, le risque seraconsidéré par l’IA comme élevé. Si l’IA est programmée à favoriser les valeursassociées à l’ouverture au changement&#160;(comme«&#160;self-direction&#160;»), le 30% des chances de non-récidive sera jugécomme plus probant que le 70% de risque de récidive. Nous pouvons objecter quel’interprétation incombe à l’usager et non au programmateur. Or, laprésentation même des résultats peut induire un biais de cadrage que l’usagerne peut neutraliser constamment (en présentant un risque comme«&#160;élevé&#160;» le biais de cadrage est déjà présent). Les logiciels étantutilisés pour aider à une prise de décision rapide, quelle serait leurefficacité si pour éviter les biais de cadrage ils présentaient les données defaçons multiples afin de ne pas induire une décision biaisée&#160;? Le débatentre efficacité et éthique doit donc être soulevé afin de ne pas devoirchoisir entre les deux.&#160; L’impact rétroactif de l’IA sur la société est ainsi à questionner. L’implémentation en outre de capacités morales soulève donc des questions d’ordre psychologiques. Quel serait l’impact de l’entrée de machines «&#160;éthiques&#160;» dans notre rapport avec le monde&#160;? Pour y voir plus clair, il nous faut connaître l’attitude que nous adoptons envers les machines. Le psychologue Bertram Malle a présenté le dilemme du tramway, en y ajoutant une variable.[17] Cette fois-ci, l’aiguillon est commandé par un être plus ou moins humanoïde, allant de l’humain à la boite noire, en passant par un robot humanoïde et un simple robot. Plus l’acteur est physiquement proche de l’homme, et plus on la blâme dans le cas où elle agit. Inversement, moins elle est proche de l’homme et plus on le blâme de ne pas avoir agi. On réprouve une machine robotoïde qui refuse de s’impliquer, on attend d’elle qu’elle agisse, sans état d’âme et en calculant l’option aux conséquences les moins graves. A contrario, on attend d’une machine anthropomorphe qu’elle agisse en humain, émotivement, qu’elle ait de grande difficulté à choisir de donner la mort à quelqu’un, tant et si bien qu’elle nous apparaîtra comme inhumaine s’il choisit de le faire. Chez l’homme, la répulsion à se salir les mains, résulte d’un biais d’omission&#160;: dans les situations où l’on considère que notre intervention serait nuisible, on tend à préférer l’inaction (dans le dilemme du tramway, il y aura des pertes quoi qu’on fasse, alors autant ne rien faire)[18].Si on met la conclusion de l’expérience de Malle en parallèle avec l’importance croissant des machines dans tous les aspects de notre existence, on peut déduire qu’on attendra plus d’actions motivées par un conséquentialisme computationnel et moins d’actions d’un autre ordre. On peut donner l’exemple de la venue des voitures autonomes, qui placerait la sécurité des piétons et des passagers entre les mains de logiciels. Cette évolution sur la courbe de laquelle nous sommes déjà, requiert qu’on s’interroge sur les attentes qu’on nourrit envers les machines. Il est clair qu’outre les intérêts pratiques et économiques, les recherches dans l’éthique de la robotique sont mues par la volonté d’innover, d’aller plus loin. Mais ne désirons-nous pas aussi le secours de machines éthiques pour d’autres raisons&#160;? Il a été montré que nous pouvons être biaisés dans notre rapport à la causalité&#160;: ainsi avons-nous tendance à expliquer nos propres actions par des facteurs situationnels, externes («&#160;je vais au casino pour gagner de l’argent&#160;») tandis que nous expliquons celles des autres par des facteurs dispositionnels, internes («&#160;il va au casino car il aime jouer&#160;»)[19]. Nous estimons que les humanoïdes peuvent être mus par des facteurs internes et externes, tandis que nous considérons les machines robotoïdes comme mues que par des facteurs situationnels. Or une machine agit selon un programme, qui propose un résultat selon les données qu’elle reçoit et les buts qu’on lui fixe. Ce mode de fonctionnement a trait à celui des penseurs conséquentialistes qui voient le bien comme la maximisation positive des conséquences (davantage de plaisir, moins de peine, etc.) et donc permise par l’équation donnant les meilleurs résultats, ceci quel que soit la nature du moyen-terme (une mort vaut bien la survie de cinq hommes). Si les machines (quel que soit leur forme) sont programmées à avoir un fonctionnement conséquentialiste, il n’en reste pas moins que nous surestimons l’importance des facteurs internes dans les actions des humanoïdes. En cela consiste l’erreur fondamentale d’attribution. Nous sommes déjà sujet à ce biais envers nos congénères&#160;: nous avons tendance à penser qu’une personne qui paraît renfrognée et laconique a un caractère ombrageux, alors qu’elle est peut-être simplement fatiguée. Si ce biais est déjà problématique dans les rapports interhumains, il se trouve renforcé dans le rapport humain-machine, puisque l’écart entre nos conceptions et la réalité est encore plus grand. On peut donc interroger la pertinence du dessein de créer des machines imitant l’apparence humaine (géminoïdes) ou encore des robots simulant des émotions de façon si convaincante qu’en situation de jeu, nous perdons notre vigilance s’ils expriment de la tristesse. Outre les manipulations dont nous pourrions être victimes de la part de telles machines (pour nous pousser à acheter tel produit, par exemple), pourrait nous conduire à des aberrations éthiques. https://youtu.be/63cXAxFx_4ISurévaluer la responsabilité d’une simple machine, peut créer des freins à la résolution juridique d’incidents dans lesquels seraient impliquées ces machines. Aussi, compte tenu de la faillibilité de l’esprit humain, ne devrions-nous pas réglementer la morphologie des machines, pour que la perception que nous en avons soit le plus proche possible de ce qu’elles sont ? Une interdiction totale des caractéristiques humaines n’est pas possible : Les machines émotives sont importantes dans toutes les tâches que vont accomplir les robots sociaux (assistanat, soins, etc.), qui sont déjà sur le marché. Mais combien-même serait proscrit la production de robots anthropomorphes, subsisterait le problème de la responsabilité. Car si nous attendons des machines qu’elles agissent en bon conséquentialiste, ce n’est pas parce qu’elles auraient lu avec ferveur les thèses de Ruwen Ogien, mais parce qu’elles ne sont pas responsables. Une machine ne choisit pas l’option la plus juste parce qu’elle est la plus juste, mais suite à un calcul. Un acte de machine n’est éthique que dans la mesure où des humains le conçoivent ainsi. La robotisation croissante de notre quotidien ne nous conduirait-elle pas à évacuer peu à peu la question de la responsabilité, du dilemme éthique, jusqu’à ce que la plupart des situations se réduisent à un problème technique ?Dimitra Dardagani, Dan Duchateau et Nicolas M’TimaÉtudiants en philosophie[1]Il parle notamment de Kant et de St Thomas D’Aquin.[2]Voir la Généalogie de la morale de Nietzsche, notamment la métaphore desbêtes de proies.[3]Le surhumain est décrit dans Ainsi parlait Zarathoustra au §3 duprologue. [4]Idem.[5]Voir le Gai Savoir&#160;§98 ou encore les sections I, II et VII de Par-delàbien et mal.[6]Parexemple, le principe de responsabilité de Hans Jonas prône un système éthiqueface aux enjeux contemporains (surtout le dérèglement climatique), pourlesquels les anciens systèmes éthiques sont inopérants.[7]Notre idée serait en effet de faire des simulations de vie en société et d’envoir les conséquences.[8]L’exemple le plus connue est surement Lessims.[9]Nous n’avons effectivement pas trouvé de recherche de ce genre.[10]La question de la possibilité d’une intentionnalité de l’IA doit être débattue,mais ne peut être évincée puisqu’il s’agit pour l’IA de prendre de décisionsqui exigent une certaine réflexivité, due aux algorithmes. [11]C’est une critique que R.Ogien et Tappolet C. émettent dans&#160;leur ouvrage Lesconcepts d’éthique, Faut-il être conséquentialiste&#160;? Hermann, 2008. [12]En poussant par exemple une personne sur les rails pour faire dévier letramway. Cité par R.Ogien, L’influence de l’odeur des croissants chauds surla bonté humaine. Grasset, 2011.[13]Dignum, V. Responsible artifical intelligence, Springer, 2019. [14]Cité par Legal, J.B. et Delouvée, S. Stéréotypes, préjugés etdiscrimination, Paris, Dunod, 2008. Dans une classe d’élèves&#160;leschercheurs ont présenté aux enseignants 20% des élèves choisis aléatoirementcomme élèves intellectuellement précoces, les autres enfants étaient présentéscomme ayant une intelligence normale. A la fin de l’année scolaire nonseulement les enfants présentés comme précoces avaient des évaluations pluspositives mais leur performance à un teste de QI était significativement plusélevé que celle des autres. Les attentes sur les caractéristiques, lescompétences ou les performances de quelqu’un provoque chez cet individu descomportements congruents avec ces attentes. Ensuite, en fonction des feedbacksreçus la personne adapte son comportement de façon à correspondre à ce qu’onattend d’elle. La confirmation des attentes initiales à son égard, ne peut-ilpas être le risque des logiciels de prédiction de récidives ou des troubles desanté&#160;?[15]Schwartz, cité par Dignum, V. Responsible artifical intelligence,Springer, 2019, p.41.[16]Ainsi les algorithmes d’une voiture autonome doivent pouvoir évaluer l’âge despersonnes, et dans le cas d’un dilemme choisir d’épargner la plus jeune. Mais pourcertaines cultures l’âge avancé étant preuve de sagesse, le choix de préserverla personne âgée peut être fait. Qu’en est-il d’autres caractéristiques&#160;? Certainescultures privilégieraient le sexe féminin, en tant que capable de procréer. Maissi le choix doit être étendu à d’autres caractéristiques, cela peut souleverdes problèmes de discrimination. [17] Bertram Malle et al,“Sacrifice One for the Good of Many? People Apply Different Moral Norms toHuman and Robot Agents” 2015.[18] DavidGal et al, "The Loss of Loss Aversion: Will It Loom Larger Than ItsGain?".&#160;Journal of Consumer Psychology, 2018.[19]Il s’agit là de l’erreur fondamentale d’attribution, démontrée en premier parJohn et Harris, cf. E. E. Jones, V. A. Harris, "The attribution ofattitudes".&#160;Journal of Experimental Social Psychology, 1967. 