{"word_count": 1964, "character_count": 14580}
Laséance s’est articulée autour de trois recherches portant sur différentesinitiatives d’automatisation dans la vie publique et privée, soulevant despostures, ressources, méthodes et problématiques singulières. ***Gabriel Lucchini-Moyal : Redéfinition du risque et de l'assurance à l'âge de la Troisième Révolution IndustrielleGabriel, doctorant en philosophie politique et éthique appliquée, débute sa thèse en CIFRE où il s’interroge sur la redéfinition du risque et de l'assurance à l'âge de la Troisième Révolution Industrielle.1 / La société durisqueDepuis la secondemoitié du XIXème siècle, les assurances sont créées afin de palier des nouveauxrisques, soit des dangers dont la société estime qu’il est nécessaire de mettreen commun la gestion&#160;: maladies, catastrophes naturelles, etc. L’arrivéede puissantes technologies statistiques pousse la société à essayer decomprendre, anticiper et prédire ces risques, afin de les éviter ou d’y&#160; remédier. Elles définissent également laconstruction d’un «&#160;homme moyen&#160;» permettant de saisir les risquespotentiels des individus sociaux&#160;: cet homme moyen ne correspond plus auxdéfinitions proposées par des philosophes modernes comme Hobbes ou Locke, maisincarne une figure abstraite construite par le milieu naissant de l’assuranceen Europe. L’assurance moderne naît à la fin du XIXème siècle au croisement desmathématiques et la sociologie, par l’application du calcul des probabilités àdes données issues de la statistique. Cette méthodologie permet d’évaluer des chances d’occurence des évènements sur leurrégularité. L’assurance apporte ainsi des réponses précises à la gestion durisque. Ces avancées ont participé à transformer ce modèle social en société durisque : la société produit les risques qu’elle prend en charge.2/L’arrivée du numériqueCemodèle d’assurance est particulièrement bouleversé par l’arrivée du numérique.D’une part, la nature et la disponibilité des informations change. Le passaged’une collecte de données empirique à une collecte de la «&#160;data&#160;»,permet notamment d’identifier des traits particuliers ou des caractéristiquesqui ne l’étaient pas auparavant.&#160; D’autrepart, l’apparition de l’automatisation des calculs avec les algorithmes etl’intelligence artificielle modifie l’amplitude des données traitées : il estdésormais possible de traiter et stocker un nombre important d’informations, etce de manière très rapide.Ces deuxderniers éléments proposent ainsi une modification des logiques demutualisation, notamment par les modèles prédictifs de ses algorithmes.Maintenant qu’il est possible d’identifier (de prédire) plus précisément quelrisque peut toucher quel type d’individu, il devient possible d’assureruniquement les individus potentiellement concernés. L’assurance n’est pluscalculée sur des risques moyens mais donc sur des risques sur-évalués. Lecalcul des risques en fonction de critères précis (et déterminés de manièreopaque) semble vouloir proposer une assurance « sur mesure&#160;» qui soulèvedes questions de responsabilisation et de discrimination. Si un individu a desaccidents répétés en voiture, il sera tenu responsable et le prix de sonassurance augmentera en fonction. Cependant est-il possible de tenirresponsable un individu de son héritage génétique, en le majorant sur sapropension à/probabilité de tomber malade ? Deuxmodèles semblent s’opposer : Un modèle d’assurance non-mutualiste, sur mesure, où lesrisques sont connus, prédictibles et anticipables, et où seuls les individuprenant ces risques seront assurés.Un modèle basé sur une culture de la solidarité portantcependant la conséquence de l’ignorance de risques réels.Dans les deux cas la question de l’Etat et de saresponsabilité demeure centrale : quelle position adopter ? Quel modèle socialhériterons-nous de cette nouvelle révolution propre à ce contexte depost-modernité ?3 / ÉchangesSuite à la présentation la discussion traite de&#160;:La dimension stratégiquedans le travail de CIFRE&#160;: y aurait-il une anticipation stratégique etintéressée des acteurs professionnels de l’assurance dans le cadre derecherches éthiques ?La reconfiguration de la sociétéindustrielle via la société du risque, et plus particulièrement lié au travail.Au XIXème siècle, contrairement à aujourd’hui, on achetait un travail, unservice ou une prestation mais pas le risque qui allait avec.La dissipation du«&#160;voile&#160; d’ignorance&#160;» autourdes risques puisque les informations et statistiques tendent à produire un alter ego numérique pour chaque individu.Du choix de ne pas parlerde quatrième révolution industrielle (terme qui commence à circuler dans lecorps social), mais plutôt de s’appuyer sur la définition proposée par Rifkin, etqui ne serait pas (ou pas encore) advenue.De ce que font lesassurances des individus qui choisissent leurs risques (en dépit d’un examenrationnel de ces derniers).De l’instabilitéclimatique qui redéfinit de nouveaux risques pour les assurances.***Giada Pistilli : Quels enjeux éthiques pour un chatbot à des fins politiques ?Giade, doctorante en philosophie politique et éthique appliquée, débute sa thèse en CIFRE chez La Petite Marianne. Elle y étudie les questions éthiques soulevées par l’utilisation d’un chatbot de communication politique et publique, ainsi que les conditions auxquelles il peut contribuer à l’amélioration de démocratie participative. Son approche consiste à élaborer une charte éthique (incluant notamment le RGPD) afin de réguler au mieux les flux de données allant vers les utilisateurs, les administrations et les mairies.1 / Protection des données et automatisation du langage À l'ère du numérique, les nouvelles technologies occupent une place majeure dans la société contemporaine, d'autant plus lorsqu'elles sont impliquées dans des enjeux politiques. C'est le cas du projet de La Petite Marianne : un chatbot conçu comme un moyen de communication entre les citoyens et les élus, afin de faciliter l'interaction entre l'administration publique et sa collectivité territoriale.Le chatbot de LaPetite Marianne est un chatbot politique (il concentre des interactions entredes administrateurs et des administrés) et public (il fonctionne pour unterritoire donné). Il fait remonter des questions connues et reconnaissables,ce qui lui permet à la fois de trouver la meilleure réponse possible mais aussid’agrandir son périmètre de connaissance. En trouvant la meilleure décisionpossible à partir d’une concertation citoyenne, le chatbot se propose commeoutil de démocratie participative où le citoyen fait partie intégrante de laprise de décision. Ce modèle projette également ce système démocratique dansune dimension communautaire, représentant uniquement les citoyens quiparticipent.2 /Améliorer la démocratie par le chatbotGiada sedemande s’il est possible d’améliorer la démocratie à l’aide d’un chatbotpolitique et public ; elle s’interroge sur les critères capables de définir unetelle amélioration. Existe-t-il des critères valables pour tous, élus commecitoyens, vecteurs d’une démocratie qui serait meilleure ? Si c’était le cas,seraient-ils transposables dans le chatbot ? Giada envisage davantage La PetiteMarianne comme un facilitateur de communication, un lien plus direct etaccessible entre élus et électeurs.3 / L’enjeu de la donnée : un risque pour la démocratieIl est essentiel de s’arrêter sur la question des mécanismes quiassurent la fonctionnalité de La Petite Marianne. Le chatbox fonctionne eneffet à l’aide du flux de données issues des utilisateurs (élus et citoyens).C’est sur ce point précis que l’éthique occupe une place centrale,particulièrement parce que c’est ici qu’un des risques d’érosion de ladémocratie semble apparaître. Cette érosion pourrait advenir si, par exempleles élus récupéraient cet outil technologique afin d’établir des comparaisons etcorrélations des données collectées face aux données personnelles des citoyens.D’autres risques, qui n’ont pas encore été mis en lumière ces dernières annéesrestent à envisager afin de les prévenir.3 / ÉchangesSuite à la présentation la discussion traite de&#160;:La valeur d’unedémocratie participative qui ne représenterait et ne favoriserait que lescitoyens qui participent. Giada explique qu’il s’agit d’une questiond’éducation et de responsabilisation globale à l’échelle nationale. Elle nepense pas qu’une entreprise privée puisse porter ce rôle d’éducation à laparticipation active à la démocratie. Elle distingue le rôle de l’entreprisequi développe le chatbot et les appropriations faites par les administrations.La question de l’écritureet notamment dans le cas où des élus ou citoyens ne seraient pas à l’aise àl’écrit. Serait-ce possible d’envisager une ouverture vers le vocal pour palierce handicap ? La question de la prisede parole du développeur au travers de la conception de l’interface du chatbot.Ce dernier est développé afin de proposer la plus grande accessibilitépossible. Plusieurs responsabilités se dégagent ici : proposer une interface etun contenu accessible à tous sans toutefois y intégrer des biais mais aussiencadrer l’utilisation des informations issues du chatbot (qui pourraient parexemple être utilisées afin de prévoir une élection, d’orienter la stratégied’une campagne…etc).La donnée comporte denombreux risques et condense beaucoup de peurs, elle est par conséquent souvent«&#160;criminalisée&#160;». Des «&#160;données d’intérêt général&#160;»sont-elles envisageables ? ***Clotilde Chevet : « L’interaction homme machine » : un nouveau rapport à soi, à la machine et au monde Doctorante en sciences de l’information et de la communication au Gripic, Clotilde travaille en particulier sur les assistants personnels, chatbots et « concierges digitaux ». Elle aborde ici les questions centrales à sa thèse, mais aussi les difficultés rencontrées pour appréhender et analyser en sciences de l'information et de la communication ces objets aux mille couches et mille facettes.1 / La question d’uneinteraction automatiséeLorsque nous parlonsd’une interaction nous désignons un échange réciproque et de même nature. Dansle cadre d’une interaction homme-machine, la machine entre dans le même systèmed’écriture que l’homme, proposant un échange de nature apparemment similaire.Clotilde s’appuie sur les recherches d’Emmanuël Souchier pour définir lesystème d’écriture d’un point de vue anthropologique comme étant laconstitution d’un rapport à soi, d’un rapport à l’autre et d’un rapport au monde.Le rapport à soi désigne ce que l’écriture nous permet d’exprimer, le rapport àl’autre ce qu’elle nous permet de communiquer et le rapport au monde ce qu’ellenous permet de dire, percevoir, exprimer de ce qui nous entoure.L’automatisation de l’interaction change le rapport à soi, en nous faisantécrire avec un assistant vocal sans nécessairement que l’on s’en rende compte.Cette automatisation impose une contrainte d’expression en imposant un certainvocabulaire ou une intonation particulière à adopter afin d’être renduintelligible par la machine. L’automatisation de l’interaction transformeégalement le rapport à l’autre, notamment en procédant à une modélisation duschéma conversationnel. Des modèles conversationnels préconçus par les concepteurs(dialoguistes pour robots) sont institués comme norme et définissent unstandard de conversation. L’automatisation de l’interaction modifie égalementnotre rapport au monde en «&#160;plaquant&#160;» des modèles relationnels surdes objets aux modes de fonctionnements différents. Le vocabulaire, lesinteractions et les modèles relationnels d’ordinaire destinés à des êtresvivants se transposent désormais sur des objets et des machines.1 / Appréhender etanalyser ces objets aux mille couches et mille facettes.Après avoir présentéses réflexions sur l’automatisation des interactions entre humains et machines,Clotilde propose d’exposer les difficultés méthodologiques qu’elle rencontrependant sa thèse, difficultés intrinsèquement liées à ces objets opaques et changeants.La première difficultérepérée par Clotilde est le souci de l’accès à son objet d’étude. Elle ne peuten effet l’observer que de l’extérieur, en procédant à des analyses d’arbre deconversation par tâtonnement. Elle n’obtient aussi qu’une vision partielle dela fiction conversationnelle proposée par les concepteurs des assistantsvocaux. Il lui est impossible d’analyser la totalité du modèle conversationnel,ni de découvrir totalement les méthodes de conception et les imaginaires quiles alimentent. Le second obstaclerencontré par Clotilde est le caractère éphémère, instable et changeant de cesobjets. La version mobile des assistants vocaux ne lui permet pas d’avoir accèsaux versions antérieures de ces derniers. Les mises à jour logicielles sontnombreuses, pas toujours annoncées, notifiées et visibles. Elles changentpourtant le modèle conversationnel de manière fréquente, imposant un véritableproblème sur la durée de vie des résultats obtenus. Il lui est en effetimpossible de stabiliser un contrat de communication homme-machine et del’analyser dans son intégralité.Se pose aussi laquestion des échanges qu’elle a pu avoir à l’occasion de sa fréquentationrégulière de réunions de développeurs dans le cadre de sa recherche. Interrogerle statut du chercheur au sein d’un champ professionnel plus large (ici celui desdéveloppeurs participant à la construction des agents conversationnels analyséspar Clotilde) revient à interroger la place des SHS au sein de l’espace socialet implique une forme de responsabilité par rapport à la constructionscientifique de nos objets de recherche.Enfin, la RGPD,récemment mise en vigueur, implique de reconsidérer les analyses produites àl’aulne d’un nouveau cadre législatif questionnant les conditions derestitution et de publication de son travail de cherche.3 / ÉchangesSuite à la présentation la discussion traite&#160;:De la possibilitéd’analyser des chatbots en open source afin d’essayer d’avoir accès à latechnologie de ces derniers.De la possibilité delouer la technologie des assistants personnels, notamment de l’assistantGoogle. Cependant, obtenir la technologie ne permet pas de découvrir lesmodèles conversationnels, dont l’opacité ne parvient pas à être entièrementdissipée (en référence notamment aux indépassables «&#160;boîtes noires&#160;»du numérique) Du parallèle entre unterrain ou un objet qui se transforme et l’ethnographie. Les ethnographes sonten effet confrontés à des populations, des environnements ou des pratiques quise modifient au cours d’une étude. Un algorithme peut-il faire office deterrain ? 