{"word_count": 1685, "character_count": 11916}
A l’occasion de la projection du documentaire Les nettoyeurs du web (The cleaners) de Hans Block et Moritz Riesewieck, en partenariat avec le cinéma Lux, une rencontre avec Dominique Cardon, directeur du Médialab de Sciences Po Paris, était organisée le 17 octobre dernier par l’université de Caen Normandie. Cet événement s'inscrivait dans le cadre de PandHeMic (Propagande : héritages et mutations contemporaines), projet de recherche soutenu par la MRSH et porté par les équipes ERLIS et CERREV. Le débat était animé par Cécile Dolbeau-Bandin.https://www.youtube.com/watch?v=iGCGhD8i-o4CDB&#160;: Dominique Cardon, qu’est-ce qui fait que&#160;lesalgorithmes de détection&#160;ne suffisent pas àce nettoyage&#160;?Parce que c’est sale. Parce que c’est très sale et que la saleté c’estcompliqué. Un algorithme c’est simple et ça ne peut traiter que des situationssimples. L’algorithme qui traite les questions de nudité calcule un pourcentagede surface de corps humain couleur chair (donc réputé nu), avec un seuilau-dessus duquel il y a suppression. CDB&#160;: Ce documentaire met en lumièreles conditions de travail extrêmement difficiles et harassantes de ceschiffonniers du net[1]. Ils visionnentet nettoient des contenus extrêmement violents et plus que choquants (viols, pédopornographies, égorgements, décapitations,tortures...). À l’aide de ces témoignages, les réactions de ces nettoyeurs faceà leur travail sont variées, qu’indiquent-elles&#160;?Que l’on place délibérément des personnes dans des situations extrêmes,dans des conditions de travail proprement inhumaines. Le reportage montre bienla métaphore heureuse du monde numérique, un monde lisse, joyeux, expressif,autonome et créatif – du côté de la Silicon Valley. Mais pour exister etfonctionner, ce monde a créé des caves problématiques, dans un nouveau systèmede domination coloniale, où le Sud récupère les déchets du Nord et fabrique desproduits propres pour le Nord. Nous sommes en train de délocaliser aussi bien nosdéchets physiques que numériques, en exploitant une armée de prolétaires qui secouple à plein de petits marchés : les marchés du clic et du faux compte[2].Ce système d’exploitation et de production de services est aussi celui desplateformes comme Uber ou Deliveroo&#160;: dans la division du travail[3]de nos sociétés, il crée une nouvelle domesticité, dont les nettoyeurs fontpartie, pour ceux dans le Nord dont la vie s’accélère. La critique permet demettre en lumière ces injustices et inégalités, afin de favoriser unrééquilibrage par l’instauration de contrats de travail, de systèmesd’assurance, etc. Ce qui est en trainde se passer pour les chauffeurs et livreurs&#160;: la requalificationprogressive des contrats, comme c’est le cas des livreurs à vélo, indique queles outils juridiques existent, en tout cas en France, afin de limiter lesdérives. Mais ce n’est pas encore le cas pour les modérateurs du Sud. Parailleurs, pour ces derniers se pose aussi la question de leur formation auxcontextes culturels et aux langues traités. Lorsque les nettoyeurs sontconfrontés à un post sur lequel ils n’ont pas de compétence, comme c’est le casde certains qui relèvent du terrorisme, ils les renvoient aux responsables desplateformes. Il s’agit non seulement du contrôle mais aussi du soutien. Lesrisques psycho-sociaux sont-ils les mêmes d’un pays à l’autre ?L’accompagnement psychologique qui est possible pour les modérateursétats-uniens n’existe pas dans les pays du Sud. Qui contrôle les contrôleurs ? Ily a une hiérarchie et une opacité des règles de contrôle, une différence enfonction des cultures et des contextes nationaux. C’est pourquoi il fautramener les modérateurs dans les pays concernés par les contenus à modérer pourqu’ils soient plus à même de les comprendre et pour briser par la même occasionla dynamique d’exploitation Nord-Sud.CDB&#160;: Lors de la journée mondiale consacrée à la censure Internet en2018, ONG Reporters Sans Frontière (RSF) s’en est pris à Facebook pour «&#160;sa collaboration active avec certains États&#160;»,sa «&#160;suppression de contenus journalistiques&#160;»et sa «&#160;politique opaque de modération des contenus&#160;».&#160;Ce documentaire ne nous amène-t-il pas àaussi nous interroger sur l’étroite imbrication du technologique et dupolitique&#160;? Qu’en pensez-vous, Dominique Cardon&#160;?Les grandes entreprises du numérique sont des entreprises globales, leurrêve est d’abolir les frontières des nations. En réalité, il y a des liensforts entre les organismes fédéraux américains et Facebook&#160;; il s’agitdonc d’une entreprise à la fois globale et américaine, qui diffuse uneconception très américaine de la liberté d’expression. Les rapports de forceentre États et entreprises numériques ont évolué au fil du temps&#160;: le webdes pionniers voulait se faire sans les États, mais avec le succès commercial, lesgrands acteurs du web ont cédé aux exigences des États par rapport auxprincipes libertaires originels, au départ sous la pression des industries dela culture. Il y a des différences très importantes de législations et deprincipes selon les pays et selon la nature démocratique ou non des régimes.CDB&#160;: Dans ce documentaire, on voit que&#160;les règles demodération imposées par les grands groupes trouvent bien vite leur limite, dèslors que la question de l’art, du journalisme de guerre, de la politique faitirruption.&#160;Leur attitude de pouvoir de décision, de vouloir fairel’histoire et d’imposer leur vision de l’histoire&#160;n’est-il pas en traind’affecter pas&#160;le pluralisme des&#160;démocraties (Le Crosnier,2018)&#160;?L’intérêt des plateformes est de répondre à nos demandes. C’est pourquoielles établissent des chartes, qui étaient à l’origine très libérales et qui seresserrent de plus en plus, car on s’indigne de plus en plus et on ne veut plusvoir certains contenus. Ces chartes ne sont certes que des règles d’uneentreprise commerciales et n’ont pas valeur juridique, mais elles déterminentla prise de parole sur les réseaux socio-numériques. Dans un intérêtcommercial, pour répondre à la demande de leurs utilisateurs, les plateformescontribuent à la restriction de la liberté d’expression. Le principal problèmeest celui de nos pratiques par rapport à la contradiction et aux opinions quinous déplaisent&#160;: on veut de plus en plus faire taire les autres, ce quise traduit par un réflexe de signalement systématique. Les plateformesco-produisent les chartes avec les utilisateurs, leurs pratiques sont donc engrande partie responsables de cette tendance. Or, pour qu’une société évolue,il y a d’abord besoin d’être en désaccord, puis de discuter pour établir unconsensus.CDB&#160;: À la fin de ce documentaire, David Kaye, rapporteur spécial des Nations Unies sur la liberté d’expression, indique que ce lissage des contenus imposé par Facebook, Google, Twitter et YouTube… est en train d’appauvrir notre système informationnel, d’homogénéiser notre façon de penser et d’estomper notre sens critique&#160;? Qu’en pensez-vous&#160;? Est-ce vraiment le cas&#160;? Est-ce une amplification de pratiques antérieures&#160;?La question de la liberté d’expression et de son traitement différent en Europe et aux États-Unis repose sur deux conceptions différentes. Aux États-Unis, on considère que «&#160;les mots ne sont pas des actes&#160;», en Europe en revanche, on estime que «&#160;les mots sont des armes et qu’ils ont des effets&#160;»[4], qu’ils exercent une certaine violence symbolique, qu’ils discriminent, etc. Et l’on voudrait par conséquent faire taire ceux qui les prononcent, ce qui conduit actuellement à un appauvrissement du débat public. C’est aussi un effet de la massification des plateformes&#160;: les gens exigent qu’on lisse, qu’on nettoie, ce qui crée une incroyable normalisation. Cela fait aussi partie des demandes sécuritaires de notre société, qui est une société qui a peur. D’une part, il y a un nettoyage systématique de plateformes. D’autre part, les nombreux amendements déposés lors du débat sur la loi Avia (pour ajouter la grossophobie ou l’agribashing à la liste des contenus à supprimer) sont un témoignage de cette terrible pulsion de censure de notre société, qui tend à vouloir faire taire plutôt qu’à essayer de produire un contre-discours.En outre, l’équilibre délicat entre modération et liberté d’expressiondevrait être assuré par la loi. Le problème est qu’aujourd’hui, les États et lajustice font de l’extrajudiciarisation en confiant aux plateformes privées latâche d’appliquer des règles de droit, comme le droit à l’oubli, géré parGoogle, qui déréférence sur demande des personnes qui souhaitent bénéficier dece droit, ou encore la loi Avia, qui demande aux grandes plateformes desupprimer des contenus manifestement illégaux. Confier l’application du droit àces acteurs privés n’est pas un dispositif sain. Il est cependant légitime queles plateformes s’adaptent au droit des différents pays, car si ce sont ellesqui imposent leurs règles à tous les États, ce serait une situationd’impérialisme intenable. Reste bien sûr la délicate question des Étatsautoritaires, qui divise les entreprises du numérique sur leur présencesouhaitable ou non dans ces territoires et sur le degré de collaborationacceptable avec leurs autorités[5].Du côté français, des experts mandatés par le gouvernement réfléchissentactuellement à un cadre de co-régulation qui s’appuierait sur des procédures derégulation et serait plus pertinent que la situation actuelle. Donner un rôlede vérificateur au CSA est envisagé. À l’échelle européenne, l’adoption du RGPDpermet d’entrevoir des possibilités de régulation cohérente. Il s’avère aussiindispensable de réarmer les tribunaux afin de leur donner les moyens d’exercerleur mission, y compris dans l’espace numérique. La portabilité des donnéesvers d’autres plateformes est également possible grâce à la réglementationeuropéenne.CDB&#160;: Peut-on considérer ces hommes et ces femmes, simples exécutants,comme les nouveaux ciseaux (à l’image d’Anastasia, cette allégorie de la censure)de la censure californienne&#160;(enrespectant les choix aléatoires de ces plates-formes surpuissantes)[6]&#160;?&#160;Est-elletrop puritaine&#160;?À propos de la place des artistes et de leur liberté sur les réseauxsocio-numériques, il est vrai que les chartes sont très pudibondes et limitentgrandement toute forme d’expression artistique liée à la nudité par exemple[7].Cela atteint les libertés fondamentales. Mais il faut aussi rappeler qu’il n’ya pas que Facebook et Instagram sur la toile, et les artistes devraient s’enservir pour ensuite amener les gens vers d’autres espaces numériques pluspropices à leurs activités. Il y a un débat entre liberté et modération. EnFrance, le rapport XXX entend redonner un rôle de régulateur ou de vérificateurau CSA.Cécile Dolbeau-Bandin (CERREV, UNICAEN)Elsa Jaubert (ERLIS, UNICAEN)Annie Lochon (CERREV, UNICAEN)[1] 10h detravail, 25 000 images, 8&#160;000 posts à consulter par jour, 10 secondes pourprendre une décision…[2] Voir Antonio Casilli, En attendant les robots. Enquête sur letravail du clic, Paris, Le Seuil, 2019.[3] Se reporter à la thèse d’ÉmileDurkheim.[4] NDLR : voir à ce proposles travaux de John L. Austin dont Quand dire, c'est faire (Paris, Le seuil, Coll. “Points”, 1991).[5] Voir Félix Tréguer L’Utopie déchue.Une contre-histoire d’internet du XVème au XXIème siècle,Paris, Fayard, 2019.[6] Cette purge arbitraireest renforcée dans certains pays comme la Turquie où la censure est importante,la Birmanie où Facebook ne stoppe pas la haine envers les Rohingyas et la rendvirale. Cette censure du Web se nourrit de petits arrangements afin que cesplateformes soient présentes dans ces pays.[7] Voir Marcela Iacub dans De la pornographie en Amérique, Paris,Fayard, 2010. Pour les étudiants de première année, ce titre fait écho àl’ouvrage De la démocratie en Amériqued’Alexis de Tocqueville.