Libre à vous ! Radio Cause Commune - Transcription de l'émission du 9 juin 2020 - Libre à lire !\nLibre à vous ! Radio Cause Commune - Transcription de l’émission du 9 juin 2020\nD’après un média publié le 09/06/2020 Avertissement\nPersonne·s Marie-Odile Morandi Christiane Féral-Schuhl Marc Rees Étienne Gonnu\nThèmes Institutions Internet Informatique déloyale Éducation\nChronique « Les transcriptions qui redonnent le goût de la lecture » de Marie-Odile Morandi, sur le thème « Naïveté, cynisme, danger. Mark Zuckerberg et Facebook »\n« Internet est-il vraiment une zone de non-droit ? », argument régulièrement invoqué par les adversaires des libertés en ligne, avec Christiane Féral-Schuhl, présidente du Conseil national des barreaux, avocate spécialiste des nouvelles technologies et Marc Rees, rédacteur en chef de Next Inpact\nChronique « La pituite de Luk » sur Parcoursup et l’éducation en général\nInternet est-il vraiment une zone de non-droit ? Nous en discuterons dans le sujet principal avec également au programme de l’émission du jour « Dans la tête de Mark Zuckerbeg » et la pituite de Luk sur Parcoursup.\nVous êtes sur la radio Cause Commune, la voix des possibles, 93.1 FM en Île-de-France et partout dans le monde sur le site causecommune.fm. Cause Commune, sur la bande FM, c’est de midi à 17 heures puis de 21 heures à 4 heures en semaine, du vendredi 21 heures au samedi 16 heures et le dimanche de 14 heures à 22 heures ; sur Internet c’est 24 heures sur 24. La radio dispose également d’une application Cause Commune pour téléphone mobile et la radio diffuse désormais en DAB+, la radio numérique terrestre, 24 heures sur 24. Capter le DAB+ est gratuit, sans abonnement, il faut juste avoir un récepteur compatible.\nSoyez les bienvenus pour cette nouvelle édition de Libre à vous !, l’émission pour comprendre et agir avec l’April, l’association de promotion et de défense du logiciel libre. Je suis Étienne Gonnu chargé d’affaires publiques pour l’April.\nLe site web de l’April est april.org. Vous pouvez y trouver une page consacrée à cette émission avec tous les liens et références utiles, les détails sur les pauses musicales et toute autre information utile en complément de l’émission, et également les moyens de contacter. N’hésitez pas à nous faire des retours pour indiquer ce qui vous a plu mais aussi des points d’amélioration.\nJe précise, comme depuis plusieurs semaines maintenant, dans une logique de sécurité sanitaire, que l’émission est entièrement réalisée à distance, notamment grâce au logiciel libre d’audioconférence Mumble.\nNous sommes mardi 9 juin 2020, nous diffusons en direct, mais vous écoutez peut-être une rediffusion ou un podcast.\nVoici maintenant le programme détaillé de cette émission :\nnous commencerons par la chronique de Marie-Odile Morandi, « Les transcriptions qui redonnent le goût de la lecture » sur le thème « Naïveté, cynisme, danger. Mark Zuckerberg et Facebook » ;\nd’ici une quinzaine de minutes nous aborderons notre sujet principal. Nous discuterons et déconstruirons un argument régulièrement invoqué par les adversaires des libertés en ligne selon qui Internet serait une zone de non-droit. J’aurai le plaisir de recevoir Christiane Féral-Schuhl, avocate spécialisée dans le droit des nouvelles technologies et présidente du Conseil national des barreaux, et Marc Rees, rédacteur en chef de Next INpact et habitué de Libre à vous ! ;\nen fin d’émission nous aurons la pituite de Luk qui portera sur Parcoursup et l’Éducation en général.\nÉtienne Gonnu : Marie-Odile, tu dois être avec nous par téléphone je crois.\nMarie-Odile Morandi : Oui, je suis là. Bonjour.\nÉtienne Gonnu : Bonjour Marie-Odile. À toi la parole.\nMarie-Odile Morandi : Aujourd’hui je voulais vous présenter une chronique un peu particulière.\nDepuis le mois de février 2020, une nouvelle émission intitulée Le code a changé, animée par Xavier de La Porte sur France Inter, a attiré mon attention. « En quoi toutes ces technos changent quelque chose à nos vies ? » est la question que se pose Xavier de La Porte avec l’intention de réaliser une vingtaine d’épisodes. Divers podcasts ont été transcrits et publiés par le groupe Transcriptions, vous pouvez les retrouver sur le site de l’April.\nLa forme de l’émission est intéressante : Xavier de La Porte émet des hypothèses qu’il soumet à son intervenant.\nAujourd’hui, très modestement, je souhaitais revenir particulièrement sur deux épisodes qui traitent de Facebook et de son créateur. Le premier épisode intitulé « Mark Zuckerberg est-il un génie ? » revient aux origines de Facebook. Le second épisode, « Mark Zuckerberg est-il dangereux ? », souhaite permettre de comprendre ce qu’est Facebook. Chacun de ces épisodes, enregistrés en avril 2020, dure environ 28 minutes.\nCertains libristes avec lesquels je communique ont dit : « À la vue de ces noms, je passe immédiatement mon chemin, je tourne la tête ». Cependant il me semble qu’il est bon de revenir sur la genèse et sur la façon dont de ce phénomène a évolué, car qu’en sait-on réellement ? Qu’en savent jeunes et moins jeunes ?\nDans les deux épisodes l’intervenant est Julien Le Bot, expert sur le sujet puisqu’il a récemment publié un livre intitulé Dans la tête de Mark Zuckerberg.\nOn apprend que, très jeune, Mark avait créé un réseau informatique qui reliait les machines de sa famille à celles du cabinet dentaire de son père qui s’intéressait aux ordinateurs, importance du père dans la carrière du fils. Il est doué, surdoué et dans la Silicon Valley l’idée a couru qu’il avait un syndrome d’Asperger, mais c’est un personnage bien plus complexe que cela. À l’université, il choisira d’étudier en priorité la psychologie des foules et non l’informatique comme on aurait pu le penser. Avec un ami il crée, à 20 ans, un premier logiciel de recommandation de fichiers musicaux et déjà à l’époque ce travail avait intéressé Microsoft.\nFacemash, son premier réseau social, a pour but de comparer les photos de deux filles pour les noter et savoir laquelle est la plus sexy. Comme dit Julien Le Bot, site un peu cradingue !\nÀ la sortie d’un dîner, il entend que des étudiants souhaiteraient disposer d’un trombinoscope en ligne pour avoir de bonnes informations sur les filles, encore ! Quelques mois plus tard il lance un projet qui remplace les albums papier distribués chaque année aux étudiants avec deux choses essentielles : le nom et la photo. Le succès est immédiat : 30 000 étudiants inscrits au bout de deux mois. Facebook était né.\nPlateforme très simple, fonctionnalités qui correspondent à une demande.\nQuoi que plus bénin que de cliquer sur l’expression « Je partage » pour recommander à ses amis même un contenu qui ne provient pas de Facebook ? Cela permet de savoir ce que ressentent les internautes, quelles sont les thématiques qui les intéressent.\nQuoi de plus simple que d’arriver sur un site et pouvoir se loguer avec son compte Facebook sans avoir à créer un nouveau compte ? Facebook devient un intermédiaire entre les internautes et des sites qui n’ont rien à voir avec Facebook.\nCes fonctionnalités deviennent à leur tour des outils de mesure au service de futurs algorithmes.\nPour Mark Zuckerberg, une partie de la vie privée doit être abolie. Les usagers sont surveillés. Facebook sait ce qu’ils font même quand ils ne sont pas sur Facebook et c’est très pernicieux parce que toutes ces informations sont livrées librement ; on n’a pas l’impression de se dévoiler à une entreprise privée.\nCe modèle économique, le capitalisme de surveillance avec développement de fonctionnalités qui captent l’attention des internautes pour qu’ils restent le plus longtemps possible sur la plateforme, permet ensuite à Facebook de monétiser cette attention. Facebook est une immense régie publicitaire. Les bases de données personnelles toujours plus complètes, grâce aussi à des applications comme Instagram, WhatsApp rachetées par Facebook, sont vendues aux annonceurs, leur permettant de cibler encore mieux.\nCertes, quand on reste sur des choses anodines, cela peut ne pas sembler très grave. Mais quand il s’agit de questions politiques, de questions religieuses, ça devient très inquiétant parce que cela donne beaucoup de pouvoirs à Zuckerberg, d’autant plus quand on apprend que plus de la moitié des Américains disent aujourd’hui s’informer prioritairement par Facebook.\nMark Zuckerberg admire Bill Gates, l’homme grâce auquel il y a un PC dans toutes les maisons, tout le monde a les mêmes logiciels et communique avec les mêmes outils. Avec Facebook, tout le monde est sur le même réseau social. Il est convaincu que relier les gens, les connecter, suffit à faire le bien et à améliorer le monde.\nDe telles convictions dues à une naïveté feinte ou réelle, font que Zuckerberg a mis longtemps à réaliser les dommages collatéraux provoqués par ce mépris manifeste de la vie privée. Il a été obligé de reconnaître les dérives de Facebook, certes du bout des lèvres quand on écoute les réponses lapidaires qu’il fournit lors de son interrogation par une commission parlementaire au sujet du scandale Cambridge Analytica, entreprise qui avait utilisé des données de Facebook pour adresser des messages politiques ciblés à des électeurs avant la présidentielle américaine. Cette vidéo dans laquelle Zuckerberg se fait laminer a été diffusée ; les « like » des internautes voulant dire « on est en colère » ont donné des indices sur leurs opinions politiques, reversées, selon Julien Le Bot, dans la régie publicitaire pour encore cibler des catégories d’individus et encore en tirer profit.<\nParadoxe des uns, cynisme de l’autre.\nAujourd’hui Facebook est valorisé aux alentours de 600 milliards de dollars ; la fortune de Zuckerberg, 36 ans, estimée à 60 milliards de dollars. Richesse qui va de pair avec la puissance. Il est à la tête d’une sorte de pays numérique, un lieu fréquenté par 2,4 milliards de personnes, un tiers quasiment de l’humanité, et il sait sur chacun de ces habitants autant de choses, voire plus, que les États dont ils dépendent.\nUne des seules passions intellectuelles avouée de Zuckerberg c’est l’Empire romain, il a d’ailleurs étudié le latin, le grec aussi. Il est reçu comme presque un égal par les chefs d’État parce qu’ils savent que LUI est l’empereur d’un monde sur lequel ILS ont peu de pouvoir, le monde numérique.\nDans ce monde il fabrique les lois, les « conditions générales d’utilisation » que personne ne lit jamais mais que personne n’est censé ignorer non plus du moment où il est sur Facebook. Ce réseau social a réalisé le cauchemar de Lessig exprimé en 1999 dans son essai Code is Law, le code informatique fait la loi. Le code entier de la plateforme, dont on ignore tout, n’exerce-t-il pas une sorte de tyrannie informatique sur ses utilisateurs consentants ?\nLa programmation informatique est une activité politique. Facebook est une puissance géopolitique. La vision de Zuckerberg lui donne l’impression d’emmener les gens dans son projet de fusionner l’humanité. Il est persuadé que sa plateforme est une force positive et peut-être espère-t-il qu’on se rendra compte dans deux cents ans que Facebook était une étape fondamentale dans l’histoire de l’humanité.\nFacebook inquiète. Des critiques de plus en plus féroces sont adressées à Zuckerberg. Il est devant une machine devenue aujourd’hui complètement folle et il devient très compliqué de redresser la barre. De plus en plus de gens plaident pour un démantèlement de Facebook, mais est-ce techniquement possible ? Peut-on continuer à laisser les citoyens offrir leur vie privée, leurs pensées les plus intimes à une entreprise cynique, irresponsable, entraînant de multiples dangers pour nos démocraties ?\nLes transcriptions sont relues avant d’être finalisées et publiées sur le site de l’April. Un des relecteurs avait commenté : « Comment est-ce encore possible que des gens continuent à utiliser ce réseau. C’est inouï ! »\nBien entendu j’encourage les auditeurs à écouter ces deux podcasts, à lire ou relire leurs transcriptions. Cela donnera des éléments de réflexion et des arguments aux personnes qui souhaitent conseiller des réseaux interopérables, basés sur des logiciels libres, et qui ont à cœur de susciter autant que possible, auprès de toutes et tous, l’utilisation d’une informatique respectueuse de la vie privée, protégeant les libertés informatiques, thème cher à l’April.\nÉtienne Gonnu : Super Marie-Odile. Merci beaucoup. C’est un très bon texte et tu nous offres une introduction parfaite à notre sujet à venir. Encore une fois les transcriptions s’avèrent être un outil très riche, justement dans ce que tu nous décrivais, une manière de former et de faire passer du savoir pour libérer notre informatique.\nEn tout cas un grand merci Marie-Odile, encore une fois.\nMarie-Odile Morandi : C’est toi que je remercie. À la prochaine. Bonne continuation.\nÉtienne Gonnu : À la prochaine. Merci. Bonne journée Marie-Odile.\nAvant de passer à notre sujet principal nous allons faire une pause musicale.\nÉtienne Gonnu : Nous allons écouter L’Étoile danse (part.1) par Meydän. On se retrouve juste après. Une belle journée à l’écoute de Cause Commune, 93.1 FM, la voix des possibles.\nPause musicale : L’Étoile danse (part.1) par Meydän .\nVoix off : Cause Commune. 93.1.\nÉtienne Gonnu : Nous venons d’écouter L’Étoile danse (part.1) par Meydän, disponible sous licence libre Creative Commons, Attribution. C’est de la musique libre, la musique libre c’est justement le partage et ça passe aussi par la mise en valeur des artistes qui sont derrière. Nous avons donc contacté cet artiste de 27 ans qui nous dit composer pour le plaisir depuis de nombreuses années et qui publie justement la majorité de son travail sous licence libre. Il dit, c’est intéressant, avoir découvert le monde du Libre via GNU/Linux puis s’être rendu compte que la démarche du Libre dépassait largement le cadre des seuls systèmes d’exploitation. Pour lui, ses morceaux sont sa contribution au vaste monde du Libre.\nMerci à Meydän pour ce retour et puis pour sa musique.\nVous retrouverez toutes ces références sur le site de l’April, april.org, et notamment une page pour soutenir Meydän.\nVous écoutez toujours l’émission Libre à vous ! sur radio Cause Commune, la voix des possibles, 93.1 FM en Île-de-France et partout ailleurs sur le site causecommune.fm.\nJe suis Étienne Gonnu en charge des affaires publiques pour l’April.\nNous allons maintenant passer à notre sujet principal.\nÉtienne Gonnu : « Internet est-il vraiment une zone de non-droit ? » comme semblent le revendiquer certaines personnes, plus généralement le revendiquer à des fins politiques comme nous allons le voir.\nJe vais ouvrir une très courte parenthèse avant cela, sans vouloir m’étaler sur les détails de ma vie personnelle. Lorsque j’ai repris mes études de droit en droit du numérique en 2013, j’avais deux références, deux sources principales d’information : Next INpact d’un côté, en particulier les articles de Marc Rees et de Xavier Berne, c’était vraiment ma référence pour faire ma veille juridique, mon actualité sur les questions numériques, et puis l’ouvrage Cyberdroit - Le droit à l’épreuve de l’Internet de Christiane Féral-Schuhl qui était un peu ma bible et celle de mes camarades de classe. C’est avec un grand plaisir, avec beaucoup de plaisir que j’accueille aujourd’hui nos deux invités du jour pour discuter de notre sujet « Internet est-il vraiment une zone de non-droit ? »\nComme je vous le disais, c’est un argument qui est régulièrement invoqué par les adversaires des libertés en ligne. Encore récemment d’ailleurs et on va s’arrêter un moment, je pense, sur la loi Avia contre les propos haineux où il était répété ad nauseum que ce qui n’est pas toléré dans la rue n’a pas sa place sur Internet.\nPour discuter de cela, déconstruire ce sophisme, nous sommes donc avec Christiane Féral-Schuhl, avocate spécialisée du droit des nouvelles technologies et présidente du Conseil national des barreaux, et Marc Rees, rédacteur en chef de Next INpact et habitué de l’antenne de Libre à vous !.\nChristiane Féral-Schuhl bonjour. Merci d’avoir accepté notre invitation. Vous êtes avec nous ?\nChristiane Féral-Schuhl : Bonjour. Absolument. Je suis là, je suis bien là.\nÉtienne Gonnu : Parfait. Est-ce que vous souhaitez compléter cette présentation succincte ?\nChristiane Féral-Schuhl : Non, tout a été dit. En fait le cyberdroit [le droit relatif à Internet, NdT] permet de pallier très largement beaucoup de problèmes. J’ai trouvé que l’introduction était extrêmement intéressante et va permettre d’illustrer très bien la réponse à apporter qui est évidemment que nous ne sommes pas dans une zone de non-droit.\nÉtienne Gonnu : On voit bien et je pense qu’il y aura largement de quoi dire dans les cinquante minutes d’antenne à venir.\nMarc Rees, que je vais tutoyer puisqu’on a régulièrement l’habitude… Tu es avec nous par téléphone il me semble.\nMarc Rees : Bonjour Christiane. Bonjour Étienne.\nÉtienne Gonnu : Salut Marc. Je vous propose donc d’attaquer.\nChristiane Féral-Schuhl, puisque vous êtes justement une spécialiste, comme on le disait, des questions du droit et d’Internet, peut-être une bonne première chose c’est de se poser cette question : comment le droit appréhende-t-il l’objet qu’est Internet ? C’est quoi Internet juridiquement, si cette question fait sens d’ailleurs ?\nChristiane Féral-Schuhl : Internet, si nous revenons à la définition, c’est un réseau de communication en ligne et c’est vrai que la principale difficulté – d’ailleurs vous avez raison de le positionner sous le nom d’objet – la principale difficulté a été cette confrontation du droit à l’Internet pour finalement appréhender les questions nouvelles posées.\nÇa va me permettre de revenir sur ce concept de vie privée qui a été très bien exprimé en introduction. On vit dans une société et la question est s’il y a un droit à la vie privée à l’ère du numérique, confronté à l’Internet.\nJe rappelle que certains, je pense au journaliste Jean-Marc Manach qui avait publié un livre très provocateur, en tous les cas le titre l’était, avec La vie privée, un problème de « vieux cons » ?. La question était : est-ce que la vie privée a encore du sens ? On a parlé de Mark Zuckerberg et c’est une très bonne chose parce que lui prône une nouvelle norme sociale. Il considère que les gens sont désormais à l’aise avec l’idée de partager plus d’informations différentes, plus ouvertes, avec plus d’internautes. Il est vrai que tout est fait pour que les internautes soient incités à communiquer des informations les concernant, largement encouragés par la culture de cette notion de l’exposition de soi. Ils n’hésitent pas à se dévoiler en toute impudeur et ils livrent des pans entiers de leur vie privée, voire des aspects extrêmement privés de la vie de tiers, celle de leur famille, celle de leurs amis. Où est le problème dans ce cas-là ? C’est l’absence de définition légale du concept de vie privée. Cette notion a évolué à travers le temps. Elle est différente d’un pays à l’autre. Par exemple, la notion de vie privée en Angleterre n’a rien a à voir avec la nôtre. On voit bien toute la difficulté d’appréhender cela.\nC’est vrai qu’il y a un droit, mais un droit qui s’est construit à travers le temps. Il y a une jurisprudence qui s’est construite, il y a une appréciation. Et puis l’Internet, finalement, c’est presque un miroir déformant qui va se confronter à un droit qui n’est pas inscrit dans le marbre. En fait, on a ces deux éléments qui évoluent. La vraie difficulté c’est quoi ? Ce n’est pas le droit. Le droit va s’appliquer. Vous avez évoqué la loi Avia, on pourra y revenir. Le droit s’applique pour autant dans les limites de ces définitions. La difficulté va se situer où ? Elle va se situer dans l’appréhension de l’infraction, si on est sur le terrain de l’infraction, comment on va identifier, comment on va faire la preuve, comment on va identifier l’auteur d’une infraction, et puis ça va être comment l’exécuter parce que l’Internet est transnational.\nEn fait vous avez tous les éléments du problème.\nEnsuite on peut le détricoter de toutes les manières. Vous le voyez, les incriminations pour discours violent ou incitant à la haine raciale demeurent, existent. Il n’y a pas besoin de loi pour ça. Les droits d’auteur existent et demeurent protégés. Les infractions d’injure, de diffamation existent. On voit bien quelle est la difficulté : c’est cette confrontation.\nLorsque le législateur décide de créer une loi, la difficulté par rapport justement à l’Internet, ça va être l’évolution des questions posées par rapport à la capacité de légiférer. Le meilleur exemple que je puisse vous donner c’est la loi pour la confiance dans l’économie numérique de 2004. On a mis dix ans à construire cette loi en essayant de faire une distinction claire entre l’hébergeur qui n’est pas responsable du contenu sauf notification d’un contenu illicite, manifestement illicite. On a identifié le fournisseur d’accès qui n’a pas de responsabilité, qui bénéficie de ce principe d’exonération de responsabilité. On avait bien situé l’éditeur, donc on voit bien les catégories émerger. Et puis, au moment où sort la loi, qu’est-ce qui se passe ? Vous avez les Dailymotion, les Facebook qui apparaissent et qui revendiquent le statut d’hébergeur, alors que les ayants droit vont leur dire « pas du tout, vous n’êtes pas un hébergeur, vous êtes un éditeur », et vous avez là à nouveau 15 années de jurisprudence pour essayer de décortiquer.\nDonc ce n’est pas une zone de non-droit, mais Internet est confronté au droit ou plutôt c’est le droit qui est à l’épreuve des technologies mais qui résiste bien, qui résiste même plutôt très bien.\nÉtienne Gonnu : C’est une très belle introduction, très complète. C’était exhaustif.\nJe vais vous inviter à couper votre micro, ça crée un écho, je ne sais pas si je suis le seul à l’entendre. On est sur Mumble, c’est une problématique technique, mais on s’adapte à la situation.\nJe pense que c’est une introduction très complète, ça a couvert, à mon avis, la plupart des choses qu’on va être amené à voir. D’une part c’est sa spécificité, mais les règles qui s’appliquent dans notre vie quotidienne, les règles de responsabilité notamment, sont indifférentes aux outils qu’on va utiliser si on est responsable ; ce n’est pas un espace qui échappe aux règles habituelles, fussent-elles notamment légales, de notre société. Et se pose la question, on verra si on peut en parler aussi, de ce qu’est une bonne loi, comment on crée de la loi : on pose des principes généraux finalement indifféremment des spécificités techniques, des objets, enfin, des médias utilisés.\nMarc Rees, de Next INpact, qu’est-ce que tu souhaiterais rajouter à ce propos ? Tu es, en plus, quelqu’un qui suit depuis longtemps l’actualité du droit du numérique. Tu as pu voir ces évolutions, notamment cette idée qu’Internet serait une zone de non-droit. Comment tout cela a-t-il évolué ?\nMarc Rees : D’abord merci Christiane pour ce large panorama, ce qui n’est jamais un exercice très facile.\nQu’est-ce que je peux rajouter ? Déjà, lorsque j’entends un parlementaire ou un représentant du gouvernement nous expliquer qu’Internet est une zone de non-droit, qu’il faut des règles, etc., il y a deux solutions : soit c’est de l’ignorance absolue, c’est-à-dire qu’ils ne connaissent pas les textes en vigueur, ce que je ne peux pas imaginer ; soit c’est une forme d’escroquerie mentale qui sert justement comme moteur pour justifier la remise à niveau ou la mise à niveau des textes en vigueur.\nInternet est un réseau de communication. Juridiquement, techniquement, technico-juridiquement on a des flux et on a du stock et il y a différents acteurs qui interviennent dans cette drôle de scène qui nous passionne depuis des années : un émetteur, un récepteur, parfois et souvent conjugués au pluriel, et puis des intermédiaires, des intermédiaires qui sont les fournisseurs d’accès pour gérer le flux et l’hébergeur qui est là pour gérer le stock. Dans cette distribution des rôles, chacun va endosser une casquette qui va lui être propre avec des obligations spécifiques. Et ça c’est en vigueur depuis la nuit des temps, notamment il y a cette fameuse loi sur la confiance dans l’économie numérique de 2004 qui est quand même un des textes ultra importants du secteur qui est bouleversée aujourd’hui et par la directive sur le droit d’auteur et par la loi Avia qui est aujourd’hui auscultée par le Conseil constitutionnel.\nDire qu’Internet est une zone de non-droit ! Avec mon collègue Xavier Berne, je m’étais amusé dans le premier numéro du magazine à dresser une espèce de panorama des différents textes. Je peux vous garantir qu’on a des dizaines et des dizaines de textes qui sont en vigueur pour gérer aussi bien des infractions ultra graves dans l’échelle normative sociale au pénal type pédopornographie, lutte contre terrorisme. On a des infractions dites de presse qui sont des infractions venues de la bouche ou de la plume, la diffamation, l’injure. On a des infractions qui touchent au droit d’auteur et là, pour le coup, on a du monde au balcon puisque c’est un sujet qui mobilise de longue date les sociétés de gestion collective et les sociétés de défense des ayants droit au sens large. Bref ! À dire vrai, j’ai du mal à concevoir qu’il puisse exister cette fameuse zone de non-droit. En fait, encore aujourd’hui je ne sais pas si elle existe vraiment, s’il y a des strates qui seraient, comme ça, hors champ normatif.\nLe droit a ceci d’intéressant que de pouvoir s’appliquer à des situations qui n’ont pas encore été imaginées lors de la production de la norme. C’est peut-être ça aussi la qualité d’une bonne loi, on pourra le voir plus tard.\nDès que j’entends cette expression, je saute sur ma chaise, voire j’en tombe, parce que c’est vraiment faire preuve d’une mauvaise foi ou d’une ignorance crasse.\nÉtienne Gonnu : Oui, cynisme ou naïveté pour faire le pont avec la chronique de Marie-Odile. C’est vrai qu’on voit bien que cette injonction, ce prétexte d’une zone non-droit qui se traduit, paradoxalement ou pas, par un empilement de strates de lois. D’ailleurs on peut se demander comment ça se traduit. Déjà ça va, tel que je le comprends de ce que vous avez pu dire, Christiane Féral-Schuhl et Marc Rees, finalement avec des lois supplémentaires qui vont faire redondance. C’est-à-dire qu’en plus de la loi générale qui pourrait s’appliquer à des faits, à différentes cause – par exemple à la diffamation qui peut exister sans passer par l’outil qu’est Internet mais par une autre voie – peut-être pas dans le cas de la diffamation, mais on va avoir une nouvelle loi, des lois supplémentaires qui vont porter sur le même objet simplement parce que l‘usage d’Internet va être présent. Il me semble qu’on peut avoir des cas où l’usage d’Internet va pouvoir être considéré comme un facteur aggravant, on va avoir peut-être des peines plus lourdes. Il me semble qu’il y a ce genre de choses assez inquiétant qui va créer peut-être une forme de criminalisation des usages d’Internet. Est-ce que je vais trop loin en disant ça, Christiane Féral-Schuhl par exemple ?\nChristiane Féral-Schuhl : Non, vous n’allez pas trop loin. J’ai envie de dire que la logique aujourd’hui, la tendance évidente c’est que quand un parlementaire voit un problème il cherche une loi. Or, nous sommes à l’intersection de plein de textes et c’est cet empilement de textes qui brouille parfois les messages et brouille l’analyse qu’on pourrait faire d’une situation. On a tous les textes, tous les fondamentaux. Vous remontez jusqu’à la loi Godfrain, vous avez tous les textes fondamentaux.\nTout à l’heure je vous disais que la loi résiste plutôt bien, mais vous constaterez que la loi résiste bien lorsque est sur une notion de principe. Je vais vous donner deux exemples.\nLe premier exemple c’est celui de l’exception de copie privée. Vous savez que l’exception de copie privée c’est la possibilité qui a été donnée à une personne de faire une copie d’un texte original et de pouvoir l’utiliser, mais ça a été pensé dans un environnement analogique. Il n’y a jamais eu aucune confusion possible entre l’original et la copie. Cela a résisté aux fax, ça a résisté à la photocopie, il n’y avait pas de difficultés et il n’y avait jamais de doute possible.\nÀ un moment donné on est passé dans l’environnement numérique et le problème vient de quoi ? Il vient de cette notion de clone qui apparaît à un moment donné et qui fait que si on mélange l’original et le clone, eh bien on ne sait plus quel est l’original, on ne sait plus quelle est copie.\nOn a assisté à toute la jurisprudence sur le téléchargement. Il a fallu là aussi 15 années de jurisprudence pour constater que le téléchargement, l’acte de copie est possible – à partir du moment bien sûr où on copie sur un site légal – lorsque c’est pour une utilisation privée, et pour déconnecter cet acte de téléchargement pour une utilisation propre avec l’acte de communication qui va consister à repartager l’information avec d’autres utilisateurs. Mais on est resté sur un fondamental qui est l’exception de copie privée et on n’y a pas touché.\nL’autre exemple que je voulais donner c’est la loi informatique et libertés. La loi informatique et libertés, certes on vient de la remanier, nous avons eu en juin 2018 un toilettage important suite au RGPD, mais les fondamentaux de la loi informatique et libertés sont restés et vous avez tous les principes. En fait, la Commission nationale informatique et libertés a fait quelque chose d’intéressant, elle a créé les recommandations. Moi j’ai mis très longtemps à comprendre qu’une recommandation ce n’est pas une recommandation au sens premier et que ça a force d’autorité. Les recommandations ont permis de s’adapter à l’évolution des technologies, mais on est toujours resté sur un texte. Je ne sais plus combien il y avait d’articles mais, avec sa cinquantaine d’articles, la loi informatique et libertés a survécu à 40 années d’évolution des technologies. Simplement chaque fois l’évolution de la technologie faisait qu’il y avait une recommandation, parfois suppression d’une recommandation pour en mettre une nouvelle, mais la dynamique a été constructive.\nPour aller dans votre sens et ce que vous venez tous les deux de très bien expliquer, oui, nous avons trop de textes, nous avons des textes de circonstance qui n’anticipent pas l’évolution des technologies. Quand on revient aux fondamentaux, le droit tient la route. Et les difficultés que l’on rencontre sont souvent sur des textes de circonstances qu’on a rencontrées.\nÉtienne Gonnu : Merci beaucoup. Vous y êtes revenue plusieurs fois et à raison ; c’est un point essentiel et je trouve que c’est la meilleure façon de le formuler : le droit tient la route. Je pense qu’on va revenir sur ce qu’est une bonne loi justement par comparaison à la loi Avia, on y reviendra. Une loi qui dure dans le temps, qui est solide, une bonne loi doit finalement intégrer un maximum de réalités pour pouvoir s’adapter aux contextes, aux évolutions du temps, des usages et des technologies.\nCes derniers temps, on entend souvent parler de solutionnisme technologique comme s’il suffisait de lancer une technologie pour répondre magiquement à un problème. Quelque part j’ai l’impression là aussi qu’il y a une forme de solutionnisme juridique où, tout d’un coup, il suffirait de proposer un nouveau texte de loi, une nouvelle strate de réglementation qui serait vue comme la réponse à des problèmes sociaux et politiques dont, en fait, les technologies comme Internet ne sont que des révélateurs. J’ai l’impression qu’on fait face à quelque chose comme ça et que c’est aussi un peu ça que vous avez exprimé.\nPuisqu’on parle de copie privée, mais vous n’êtes pas obligés de répondre là-dessus, je sais que c’est un des dadas de Marc, je ne trouve pas de meilleure manière de le dire, est-ce que tu souhaites rajouter quelque chose Marc ?\nMarc Rees : Tout cela est très juste. C’est vrai que l’exception pour copie privée a été évoquée dans des actions en contrefaçon par des personnes qui téléchargeaient. Le problème c’est que dans la mesure où initialement l’œuvre, notamment en réseau peer to peer, a été proposée à la communauté entière des utilisateurs, il suffisait de se baisser et de se servir, eh bien automatiquement la copie n’était plus privée, elle avait, dans son existence, dans son ADN, une graine publique qui a corrompu, quelque part, toute la chaîne de transmission.\nCe qui est rigolo c’est que là où les ayants droit ont obtenu gain de cause, ils ont justifié du fait que dès lors qu’il y a à un moment donné communication au public d’une œuvre, c’est-à-dire à tous les internautes, automatiquement on ne peut plus parler de copie privée dans les strates successives. Dans le même temps les études d’usage qui étaient menées en commission copie privée, elles, mélangeaient aussi bien les copies illicites que les copies licites afin de maximiser les études d’usage. Bon ! Je ne veux pas rouvrir le dossier parce qu’il pourrait faire l’objet d’une publication ou d’une émission dédiée. En tout cas, ce qui est sûr c’est que les ayants droit ont maximisé les études d’usage qui servent à jauger les pratiques de copie auprès d’un panel en tenant compte des copies licites. Pendant des années et des années, ils ont tenu compte des copies licites pour gonfler au maximum le taux de la redevance qui s’appliquait d’abord sur les supports analogiques comme l’a très bien rappelé Christiane et ensuite sur les supports numériques.\nSinon, sur cette inflation législative, oui, c’est vraiment une plaie des démocraties actuelles, voire des autres systèmes politiques, que de découvrir un problème ou de feindre de découvrir un problème et puis d’imaginer une loi taillée pour la circonstance, ces fameuses lois de circonstance.\nDans le même temps, ce que j’aimerais qu’il soit systématiquement rappelé, c’est ce chiffre qui a été donné par le Trésor, par les services de Bercy lors du grand débat mené par Emmanuel Macron l’an dernier, de l’argent public qui est attribué à la justice. Il y a un tableau que vous trouvez sur le site de Bercy qui explique que pour 1000 euros de dépense publique on a 4 euros qui vont à la justice. Dans ces 4 euros on a aussi le pénitentiaire.\nC’est bien beau d’empiler des textes pour répondre à des problèmes spécifiques, c’est magnifique d’avoir comme ça ce réflexe législatif. Mais, d’un autre côté, si la justice n’est pas là et n’a pas les moyens attendus à la hauteur des prétentions décrites et définies par le politique, on arrive à des mesures d’affichage ou du n’importe quoi. C’est-à-dire que la loi va avoir une efficacité devant les micros, sous la plume, dans les journaux, sur Internet, mais c’est tout. C’est tout ! Derrière on a des juges qui sont, excusez-moi du terme, à la ramasse, qui sont les derniers wagons du train et qui n’arrivent pas à suivre parce que, sur leur bureau, trônent des centaines et des centaines de dossiers d’instances en cours qu’ils n’arrivent pas à digérer. Il est là le vrai problème. Il est vraiment là !\nÉtienn Gonnu : Oui, c’est un point très juste.\nChristiane Féral-Schuhl : Il est là, je suis totalement d’accord avec vous et ça évoque pour moi une affaire, la première affaire dont j’avais eue à m’occuper, une affaire de virus. Le premier virus qui avait été trouvé dans un CD qui avait été pressé et vendu avec une revue. Je ne sais pas si vous vous en souvenez.\nMarc Rees : Je m’en souviens.\nChristiane Féral-Schuhl : Cette affaire avait fait beaucoup de bruit. J’avais eu le privilège de défendre le prévenu et cette affaire est allée jusqu’en cassation, elle a duré des années. Je me souviendrai toujours de mon dernier échange avec lui puisqu’il a obtenu une relaxe mais au bout de je ne sais pas combien d’expertises et de débats parfois, je dois le dire, assez fumeux ; il m’avait dit : « Je n’ai qu’un vœu, vous m’avez très bien défendu, mais je souhaite ne plus jamais entendre parler d’informatique ni d’Internet ». Je pense qu’il s’est retiré et qu’il n’a plus voulu faire quoi que ce soit.\nC’est vrai que d’une certaine manière, entre temps, pendant toutes ces années, on avait parlé, compris qu’il faut aussi que les juges se forment, apprivoisent. C’est un problème qui se gère avec les générations qui se succèdent, forcément. Il y a les concepts juridiques, mais il y a aussi l’enquête en amont, les preuves numériques. Il a aussi fallu faire appréhender toutes ces notions. Et encore une fois, une fois que vous avez la décision, il faut la faire exécuter et quand vous avez cette approche transnationale de l’Internet, c’est compliqué. Donc il faut que tous les acteurs montent en puissance en termes de compétences, les juges comme vous l’avez dit, les avocats, bien sûr, parce qu’il y a encore une marge de progression et je trouve qu’ils ne sont pas encore suffisamment présents sur des sujets comme la cyber-sécurité et d’autres domaines, mais il y a aussi les cyber-policiers, les cyber-gendarmes, les cyber-enquêteurs, il y a tout cela qui participe de l’œuvre de justice. Si vous avez une belle décision mais que vous ne pouvez pas l’exécuter, vous y avez passé des années, le résultat vous ne l’avez pas.\nÉtienne Gonnu : C’est vrai qu’on entend très souvent, enfin on rappelle très souvent la nécessité des moyens de la justice ou s’il n’y a pas les moyens mis en œuvre pour donner corps à un nouveau droit écrit, il reste lettre morte. C’est quelque chose de très important. Je pense que ça re-situe aussi la question des relations, tout ça s’inscrit également dans des relations de pouvoir. Je croise des choses qui ont été évoquées mais, pour revenir sur un point qui est très important il me semble, c’est la responsabilité des intermédiaires techniques. Je fais un parallèle.\nMarc Rees : Étienne, si tu veux je peux résumer.\nÉtienne Gonnu : On parlait justement de copie privée, il y a des enjeux économiques, des enjeux politiques. Tout ça s’inscrit là-dedans et là où ces zones de non-droit sont le plus invoquées, là où ces arguments un peu fallacieux sont invoqués, on voit que c’est beaucoup sur les lois sécuritaires et sur le droit d’auteur, parce que tout ça s’inscrit dans un contexte politique. Sur cette notion de responsabilité, Marc, je vais te repasser le micro.\nMarc Rees : La responsabilité des intermédiaires techniques, c’est une des pierres angulaires du droit du numérique. Quelle est l’idée ? L’idée a été évoquée, après bien des années, dans le cadre d’une directive de 2000 sur le commerce électronique, qui a été transposée en France en 2004 avec la fameuse loi sur la confiance dans l’économie numérique. Elle s’attache tout particulièrement à la question des hébergeurs. Les hébergeurs, qui sont-ils ? Ce sont des acteurs qui opèrent, pas forcément à des fins financières, mais ce sont des acteurs qui opèrent et qui vont stocker des informations, des contenus à la demande des internautes. Puis, éventuellement, ces contenus vont être mis à disposition des tiers. Dit comme ça ce n’est pas très compréhensible mais, quelques années plus tard, YouTube est arrivé. YouTube est un réceptacle dans lequel des personnes vont mettre en ligne des vidéos qui vont être possiblement partagées ou possiblement stockées ou possiblement non partagées puisqu’on peut se servir de ce réceptacle uniquement comme d’une espèce de tiroir, comme d’un disque dur distant.\nPour gérer la responsabilité de ces acteurs, que ce soit Twitter, Facebook ou les hébergeurs purement techniques, peu importe, trois angles ont été choisis. Il a fallu trouver une solution qui puisse protéger la liberté d’entreprendre, puisque c’est une liberté fondamentale, la vie privée des internautes aussi, mais également la nécessaire lutte contre les infractions.\nLe principe qui a été défini en 2000 puis transposé en France en 2004 c’est qu’un hébergeur n’est pas responsable des contenus qu’il stocke, qui sont éventuellement mis à disposition des tiers, mais il le devient dès lors que ces contenus sont manifestement illicites, c’est-à-dire dont l’illicéité est flagrante ou parce qu’un tribunal lui a demandé de les retirer.\nLorsqu’un intermédiaire technique se retrouve face à un contenu qui présente ces deux adverbes, ces deux qualités, donc manifestement illicite, il doit retirer cette fois-ci promptement, c’est-à-dire sans attendre, en fonction du contexte.\nVoilà le socle de responsabilité qui a été imaginé dès le début. Sauf que vous pensez bien que ce régime-là n’a pas satisfait tout le monde. Christiane a rappelé très justement la problématique des ayants droit qui ont pesté contre ce régime. Pourquoi ? On va imaginer : si un site comme Flickr ou comme YouTube, peu importe lequel, héberge un contenu sur lequel moi je revendique une paternité, je contacte YouTube et je dis « attendez, cette vidéo qui a été mise en ligne par Kevin Michu, en fait elle m’appartient ; c’est mon œuvre ». Le problème c’est : est-ce qu’on est bien face, là, à une violation manifeste ? Est-ce qu’on est manifestement face à quelque chose d’illicite ? Le problème c’est que l’intermédiaire technique, il est intermédiaire technique, il n’est pas spécialiste en droit d’auteur. Pour être éligible à la protection du droit d’auteur, il faut que l’œuvre soit originale et surtout empreinte de la personnalité individuelle de celui qui se prétend être le père ou la mère. Les ayants droit ont pesté contre cette difficulté parce que cela signifiait aussi pour eux de devoir adresser des notifications extrêmement détaillées où ils devaient revendiquer la paternité d’une œuvre, exposer moult arguments pour inciter les YouTube et les Twitter et les Facebook et les Flickr et tout ce que vous voulez à retirer ces éléments-là. C’est aussi pour ça qu’ils ont fait pression d’abord en France et ensuite à l’échelle européenne pour que, dans la directive sur le droit d’auteur, soit adopté ce fameux article 17 qui industrialise le filtrage sur certaines plateformes afin de régler cette question du manifestement illicite ou du retrait prompt.\nSi, en quelques mots, je devais définir cette problématique, eh bien ce serait cela.\nÉtienne Gonnu : Tu es parfait Marc ! Tu as clarifié mon moment de confusion. Je pense que c’est important de se tourner vers ça parce qu‘on voit bien l’importance de l’enjeu. Il y a des droits complexes comme le droit d’auteur, il y en d’autres, et on va avoir cette tendance, il me semble, de déléguer aussi l’application du droit à des entités privées en leur faisant porter une responsabilité excessive. Ça va être le cas dans le droit d’auteur et on va le voir, je pense après la pause, avec la loi Avia sur la liberté d’expression en elle-même, sur ce qu’est la liberté d’expression.\nOn va bientôt attaquer la pause mais Christiane Féral-Schuhl, je pense que vous vouliez prendre la parole. Je vous laisse dire un dernier mot avant que nous fassions la pause.\nChristiane Féral-Schuhl : Oui, merci. Je pense que les toutes récentes explications mettent en exergue le pouvoir des GAFA. Ce sont ces acteurs auxquels on délègue le pouvoir régalien du juge. Vous l’avez très bien dit, l’appréciation doit se faire dans un contexte donné. En fait, quand vous évoquiez la justice tout à l’heure, qu’est-ce qui est important ? Quel est le rôle de l’avocat ? Ce n’est pas de dire le droit, ce n‘est pas de faire rentrer une affaire sous une bannière juridique, c’est d’expliquer un contexte et mettre en relief le contexte de manière à voir comment la règle de droit va s’appliquer. Avec l’évolution des textes et tout particulièrement avec cette dimension à la fois extraordinaire et parfois anxiogène d’Internet, certains problèmes ont finalement dépassé les limites qui avaient été imaginées par le rédacteur. La question a toujours été de voir si ça résistait à cette évolution.\nEnsuite, vous avez la loi nationale confrontée au reste du monde. Nous l’avons bien vu avec des affaires comme Google Spain et d’autres dans lesquelles on obtient bien une décision à un moment donné pour retirer des éléments qui causent grief à une personne au regard de sa vie privée, de ses données personnelles et, en face, un acteur comme Google qui dit « moi je l’applique régionalement. Dans le reste du monde, ce que vous, juge local, avez décidé, n’a pas vocation à s’appliquer ailleurs ». Il a fallu remonter au créneau, il a fallu que le RGPD s’en mêle, il a fallu cette contamination positive, d’une certaine manière, de valeurs fondamentales pour que les données personnelles, donc la vie privée, prennent l’importance que ça a pris. Ici encore c’est par contamination que l’on voit émerger des voix sur la vie privée un petit peu partout. Je pense que c’est l’occasion de souligner que la France a été moteur sur ce terrain-là. En 1978 on a eu cette loi de principe qui a rappelé que l’informatique était au service de l’humain, et cette disposition existe encore dans cette formulation, que vous pouvez ensuite transposer puisqu’on ne parle plus d’informatique : le numérique est au service de l’humain, il ne doit jamais perdre cette dimension humaine. Mais je vous dis la même chose pour la justice : on peut utiliser tous les outils technologiques, on voit bien ce que ça peut apporter, faciliter et autres, mais attention à la part d’humain. Au moment où on rentre dans l’intelligence artificielle, dans l’utilisation des algorithmes, dans les risques des biais, on voit bien que de nouvelles questions se posent et que ce n’est pas une loi qui va régler ça. C’est une prise de conscience collective avec des principes fondamentaux comme la Charte des principes énoncés par le Conseil de l’Europe pour l’élaboration des algorithmes. C’est la notion d’ethic by design ou ethic by default comme le privacy by design ou le privacy by default. On voit bien que l’éthique prend sa place dans le dispositif et va permettre d’organiser l’utilisation de l’Internet, mais il va falloir trouver des dénominateurs communs au niveau de la planète.\nÉtienne Gonnu : Marie-Odile dit « très intéressant » sur notre salon web et je ne peux qu’être d’accord. Pour faire écho à ce que Marie-Odile mentionnait dans sa chronique précédente, elle a parlé de ce Code is Law de Lessig. Par rapport à ce que vous dites, ce respect, que l’informatique ne doit pas servir à l’oppression des humains, je pense que justement le logiciel libre, l’éthique du logiciel libre est une des réponses extrêmement importante puisqu’elle replace aussi, finalement, un contrôle populaire, le contrôle humain sur la manière dont est développé le code informatique, comment on le développe collectivement dans une approche de transparence, en fait dans une approche démocratique. C’est vrai que tout cela est fondamental.\nC’est passionnant, mais je vous propose quand même de s’oxygéner un peu le cerveau avec un peu de musique. Nous allons donc faire une petite pause musicale.\nÉtienne Gonnu : Nous allons écouter Confluence par Cloudkicker. On se retrouve juste après. Une belle journée à l’écoute de Cause Commune 93.1 FM, la voix des possibles.\nPause musicale : Confluence par Cloudkicker.\nÉtienne Gonnu : Nous venons d’écouter Confluence par Cloudkicker, disponible sous licence libre Creative Commons Attribution.\nVous écoutez l’émission Libre à vous ! sur radio Cause Commune, la voix des possibles, 93.1 FM en Île-de-France et partout ailleurs sur le site causecommune.fm. Je suis Étienne Gonnu en charge des affaires publiques pour l’April. Nous discutons avec Christiane Féral-Schuhl, avocate spécialisée dans le droit des nouvelles technologies, et Marc Rees, rédacteur en chef de Next INpact, afin de voir justement qu’Internet n’est pas une zone de non-droit.\nDe nombreuses références ont été évoquées, la loi Godfrain de 1988 sur la fraude informatique, l’arrêt Google Spain, la loi informatique et libertés de 1978, la loi sur la confiance numérique de 2004. Vous retrouverez toutes ces références, nous les mettrons en ligne sur la page april.org. Ne vous inquiétez pas.\nOn l’a souvent évoquée, j’aimerais bien qu’on parle un petit peu de la loi Avia, d’une part parce que c’est l’actualité récente, une des rares lois passées dans l’urgence [dans le cadre de l’état d’urgence sanitaire, NdT]. Visiblement il y avait urgence à passer cette loi contre, je cite, la haine en ligne, et parce qu’elle est, je pense, extrêmement emblématique de ce qu’on a pu évoquer.\nMarc Rees, en tant que journaliste, tu as suivi, tu as consacré vraiment beaucoup de temps à décortiquer cette loi. Est-ce que tu pourrais, s’il te plaît, nous en donner le sel ?\nMarc Rees : Effectivement, c’est la première hors question covid qui a été adoptée durant l’état d’urgence. En ça elle est assez symbolique et c’est sans doute un écho à la LCEN ; elle est aussi importante que la loi sur la confiance dans l’économie numérique de 2004.Quand je dis « important » ça ne veut pas dire qu’elle est très bien, je réserve mon avis là-dessus.\nSur ce texte en question, quelle est l’idée ? L’idée serait qu’Internet serait cette fameuse zone de non-droit et qu’il convient, pour certaines infractions, de prévoir un dispositif très particulier de retrait des contenus manifestement illicites, mais pas tous. Pas tous ! Uniquement ceux qui ont trait, notamment, à l’injure raciale, à l’injure pour handicap, au racisme en ligne, etc. On a aussi l’apologie du terrorisme dedans, la pédopornographie, également l’accès des mineurs à la pornographie, donc c’est assez bizarre comme fourre-tout.\nL’idée de la loi Avia, quelle est-elle ? Elle explique ça à l’article 1. Tout à l’heure je vous ai dis que, dans la loi de 2004, l’idée était de laisser aux intermédiaires techniques, aux hébergeurs, le soin de jauger le manifestement illicite d’un contenu mis en ligne, à savoir que lorsque je notifie quelque chose à YouTube, si ce quelque chose est manifestement illicite, YouTube va le retirer promptement. Voilà l’idée. La loi Avia corrige un petit peu ces adverbes. Elle dit que s’il y a des contenus qui se raccrochent à une espèce de liste noire, c’est la liste des infractions que je vous ai mentionnées tout à l’heure, à ce moment-là l’hébergeur ne doit pas le retirer promptement, ce n’est pas ça, il doit le retirer en 24 heures. Et là, ça change tout ! Ça change tout pourquoi ? Parce qu’on a va laisser à Twitter, à Facebook, à YouTube, à Snapchat, à Instagram, à des hébergeurs techniques ou autres, un délai de 24 heures pour jauger le caractère manifestement illicite d’un contenu et, si ce caractère est avéré, il doit le retirer, il doit impérativement le retirer.\nLe problème, vous l’imaginez assez facilement, c’est qu’un hébergeur, par définition, se frotte à beaucoup d’internautes. Donc quand vous avez un acteur comme Twitter qui n’a pas du tout les mêmes moyens que Facebook, on n’est pas du tout sur la même planète financière, qui reçoit des tombereaux de notifications, eh bien traiter en 24 heures ces contenus-là et surtout contextualiser les contenus qui seraient manifestement illicites, c’est extrêmement difficile. Le problème c’est que la loi Avia a un effet couperet, c’est-à-dire que si au bout de 24 heures plus une seconde le contenu est toujours présent, un juge pourra décider de sanctionner cette plateforme à 250 000 euros multiplié par cinq lorsque c’est une personne morale. Donc 1 million et 250 000 euros d’amende à l’acteur qui n’aura pas retiré dans le délai imparti ces contenus.\nLe problème est assez vite vu, c’est-à-dire que l’amende pour défaut de retrait d’un contenu manifestement illicite n’a pas d’équivalent en cas de sur-censure. C’est-à-dire que si Twitter retire un contenu qui finalement n’est pas manifestement illicite, eh bien il n’existe pas une amende similaire pour sanctionner cette atteinte à la liberté d’expression.\nDonc le problème et toute l’idée, tout le moteur aussi, j’allais même dire la motivation, la stratégie qui a été développée par les instigateurs de ce texte, et je pense particulièrement à Lætitia Avia, ça a été de créer ce déséquilibre pour inciter à une espèce de nettoyage en profondeur des réseaux. Le problème, je pense que Christiane Féral-Schuhl pourra nous le rappeler, c’est que la Cour européenne des droits de l’homme nous a longtemps expliqué que la liberté d’expression ce n’est pas forcément de parler que des Bisounours, de l’arc-en-ciel et des petits oiseaux qui chantent. C’est aussi flirter avec l’expression presque outrageante, à la limite de la diffamation, à la limite de l’injure, parce que le monde est complexe et l’humain est parfois énervé. Je crains vraiment des effets délétères pour la liberté d’expression dans la conception même de ce texte.\nÉtienne Gonnu : Christiane Féral-Schuhl, puisque vous êtes justement invitée.\nChristiane Féral-Schuhl : Merci. Marc a dit beaucoup de choses et je le rejoins dans ses explications.\nEn fait il n’y a pas de parallélisme qui existe entre la victime d’un propos qui va en exiger le retrait et la victime du retrait abusif. En fait il n’y a pas de chemin pour rétablir des propos qui auraient été anormalement considérés comme haineux, abusifs ou autres. Le parallélisme n’existe pas.\nPour nous, le problème important c’est celui de la délégation du pouvoir de censure à des organismes privés, à des plateformes. C’est, quelque part, une renonciation au pouvoir régalien du juge dans l’appréciation. L’appréciation est compliquée, elle nécessite un véritable savoir-faire et c’est vrai que le montant de l’amende peut inciter à retirer plutôt qu’à aller regarder de plus près si réellement il y a une difficulté ou pas.\nOn est sur quelque chose qui est très fondamental dans un pays démocratique, c’est le contrôle de la liberté d’expression, une liberté fondamentale dont l’appréciation ressort du seul pouvoir judiciaire normalement. Donc ça donne, dans le contexte actuel, une acuité particulière à la solution qui a été apportée parce qu’aujourd’hui vous entendez partout parler de la souveraineté numérique nationale, vous entendez partout parler de l’indispensable contrôle par les autorités étatiques des flux numériques. Et qu’est-ce qu’on constate ? Eh bien que sur ce sujet qui est un sujet important et, encore une fois, Marc et moi sommes évidemment d’accord qu’il y a des propos haineux, insupportables sur lesquels il faut agir pour les retirer, mais on est en train de trouver une solution qui retire à l’État, à la justice d’un État, le pouvoir de contrôle. Et on dit finalement que, dans le cadre d’une collaboration à mener avec des plateformes, on va trouver la solution.\nJe ne vous parle pas, si ce n’est quand même pour insister sur le traitement différencié selon que l’on est auteur ou victime du propos haineux, le signalement par une victime entraîne la suppression préventive et le contrôle subsidiaire du contenu. Donc on est en train de mettre en place une procédure qui facilite la censure hors contrôle judiciaire. Pardon d’insister, mais c’est véritablement cela qui est important.\nLe Conseil national des barreaux avait demandé un retrait à titre provisoire du contenu signalé dans l’attente de la décision du juge judiciaire s’il y avait une contestation. Ce juge judiciaire aurait pu être saisi de façon systématique par l’opérateur de la plateforme pour chaque retrait. Mais bon ! Nous ne l’avons pas obtenu et c’est vrai que nous sommes dubitatifs sur l’efficacité. Nous sommes typiquement dans une situation où l’on comprend les griefs énoncés, la loi sur la presse peut être compliquée à mettre en œuvre à cause d’un certain nombre de critères, de délai de saisines, un formalisme qui est pesant, mais on pouvait l’adapter. On a réussi pour les propos sexistes à le faire, donc on peut étendre l’application de la loi, on peut, encore une fois avec les outils qui existent, arriver à trouver des solutions.\nOn est, pour nous, dans l’élaboration d’un texte qui risque de poser des difficultés d’application, mais en tous les cas le principal c’est de dire que quelque part on renonce au contrôle judiciaire.\nÉtienne Gonnu : On l’a senti et on a pu le voir sur la directive droit d’auteur et là c’est la même chose mais en pire, quelque part, puisque là on a touché au fondamental de la liberté d’expression. Je vais citer très rapidement une tribune de Laurent Chemla, qui correspond pile à notre sujet, une tribune de 2013, qui a déjà sept ans, « La liberté dans sa plus simple expression ». Il dit, et je le rejoins : « Internet est le seul outil qui fasse de ce droit — donc la liberté d’expression — autre chose qu’une pétition de principe. Vouloir « encadrer l’expression publique sur Internet » ou « réguler » « autoréguler » ou — pour les moins xylolaliques — « censurer », nous dit-il, ce n’est pas contrôler l’utilisation d’un nouveau média, c’est toucher — sans oser le dire — au principal fondement de ce qui fait la différence entre une démocratie et une dictature. La liberté d’expression du citoyen, à ce jour, n’existe QUE sur Internet ». La liberté d’expression active et pas seulement passive par exemple à travers la télévision. On voit d’autant plus le danger de déléguer son contrôle, l’exercice de cette liberté d’expression, aux plateformes privées.\nD’ailleurs j’avais l’impression qu’il y avait un paradoxe dans les débats lorsque la loi a été discutée en hémicycle, si je me souviens bien, tout d’un coup finalement le droit revenait puisque, lorsqu’on leur opposait cette asymétrie des formes et les risque de sur-censure, on disait « vous pourrez aller devant le juge et faire constater la sur-censure ». Tout d’un coup, finalement, le droit normal revenait lorsqu’il s’agissait d’évoquer cette sur-censure.\nC’est vrai que l’enjeu de la haine en ligne et l’expression est importante. En plus, on voit bien la difficulté de qualification de ce que va être un propos haineux, ce qui a été qualifié de zone grise, ce qui est, en plus, déjà difficile pour des magistrats, on parlait de la formation. Il y a peut-être aussi cet aspect difficile du travail en termes de formation. Je veux bien votre regard là-dessus également. On parlait de la formation, des moyens de la justice pour contrecarrer ça. Est-ce que ça suffit ? Est-ce qu’il suffit de donner plus de moyens à un magistrat parce qu’il y a aussi une réalité : tous ces propos haineux, tous ces antagonismes qu’on observe en ligne, toutes ces tensions ne sont, en fait, que le reflet développé sur Internet peut-être comme une chambre d’écho. Mais ça s’inscrit aussi dans un contexte politique et on a peut-être tendance un peu à oublier ça. Les moyens de la justice sont effectivement une réponse indispensable, mais est-elle vraiment suffisante, si on ne fait pas aussi ce travail de politique publique ?\nMarc Rees : Là-dessus on peut aussi compter sur l’effet des décisions, l’effet épouvantail des décisions. Lorsqu’une personne est condamnée publiquement à une peine juste et sévère pour des propos absolument abjects qui auraient été tenus en ligne, ça peut également servir d’épouvantail et d’effet exemplaire au regard des autres qui seraient tentés. Le droit pénal a aussi cette vocation de servir d’exemple, faire des peines exemplaires pour inciter les autres à ne pas reproduire de telles choses.\nMais là, avec la loi Avia, on n’est pas du tout dans cette stratégie. La stratégie, comme l’expliquait Christiane, c’est cette privatisation, cette délégation d’un service public qui est confié aux mains des acteurs du numérique. On parle des GAFA mais peut-être d’autres aussi, puisque c’est un décret qui viendra fixer le seuil d’activité au-delà duquel la loi Avia va s’appliquer, et on ne sait pas encore ce qu’est ce seuil d’activité. Il y a un flou là-dessus et on va déléguer à ces personnes-là le soin de jouer au juge, jouer au juge mais en 24 heures. Un magistrat, c’est quelqu’un qui est le fruit d’une formation solide faite de stages et de cours théoriques, c’est quelqu’un qui va ausculter des textes, qui va ausculter des dossiers, qui va surtout contextualiser et qui va décider. Il va estimer que là, non, on est dans les limites de la liberté d’expression ; là, par contre, on a été au-delà, ici c’est de l’humour. Je parle d’humour parce que l’OCLCTIC, l’Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication, qui est une excroissance du ministère de l’Intérieur, qui est chargé de certaines infractions sur Internet, avait demandé un retrait administratif d’un tweet, or il n’avait pas compris que ce tweet était humoristique. C’est finalement la personnalité qualifiée de la CNIL, qui s’appelle Alexandre Linden, qui l’avait remis dans le droit chemin. Il a couché noir sur blanc ce que je dis là dans son rapport annuel, je crois que c’était l’an dernier.\nVoilà ! La contextualisation est importante. On ne peut pas s’imaginer ou s’initier magistrat en deux secondes d’un claquement de doigts ; il faut peser le pour et le contre. Là on a des libertés qui sont en jeu, on a la dignité de la personne humaine d’un côté, on a la liberté d’expression, et il faut jouer des plateaux, il faut jouer d’équilibre et savoir s’il n’y a pas un déséquilibre qui est manifeste, auquel cas il faut plaider pour cette suppression. Il faut aussi que les personnes qui tiennent ce genre de propos soient condamnées et il faut qu’elles puissent être condamnables. Mais là, le choix qui a été fait par Lætitia Avia, cette délégation massive pour la plupart des infractions liées à la liberté d’expression, pour moi c’est une erreur forte si ce n’est tragique qui a été faite par le législateur. Je vous rappelle que le texte est actuellement ausculté par le Conseil constitutionnel et on attend sa décision dans les jours à venir.\nÉtienne Gonnu : Oui, décision qui sera extrêmement importante. Christiane Féral-Schuhl, je vous laisse peut-être le mot de la fin parce que je vois qu’on arrive sur la fin du temps qui nous est alloué.\nChristiane Féral-Schuhl : D’abord je voudrais vous remercier de m’avoir donné la possibilité de revenir sur beaucoup de sujets.\nEn fait, quand on regarde l’Internet, cette zone dite de non-droit, on voit bien que la particularité de l’Internet c’est que certains garde-fous qui existent dans nos textes ont du mal à s’appliquer. Par exemple je pensais à la prescription ou la publicité d’un jugement. En fait, la publicité d’une décision de justice est une sanction. J’ai le souvenir d’avoir plaidé pour ou contre le fait que la décision qui allait être rendue serait publiée ou pas. Aujourd’hui ça n’a plus de sens parce que le jugement est public, le jugement est à la dimension de la planète. On voit bien que la particularité de l’Internet, c’est que, finalement, une situation préjudiciable peut être préjudiciable pour la victime, elle peut aussi dépasser la sanction qui va être prononcée parce qu’on va avoir les vidéos braquées, on voit bien que lorsqu’on parle de la justice médiatique qui se fait en marge, on a à la fois les projecteurs sur ce qui se passe à l’intérieur du tribunal et sur les réseaux. On voit bien que cette notion de justice est tentaculaire et que cette mémoire d’éléphant de l’Internet fait que le préjudice n’est pas réparable, n’est jamais réparable.\nEn vous écoutant tout à l’heure, je me suis souvenue que j’avais eu un débat avec une journaliste qui était beaucoup sur la liberté d’expression à un moment où moi je rappelais qu’il y avait des fondamentaux dans la justice et notamment le respect du contradictoire, le secret professionnel. Il y a des valeurs qui existent et qui, pour conduire à une justice sereine, nécessitent que tout ne soit pas déballé sur Internet. C’était en lien avec ce rapport qui avait été rendu public par, est-ce que je me trompe, Kenneth Starr qui était le procureur de Bill Clinton au moment de toute cette histoire et où son rapport avait été diffusé sur Internet et, finalement, il n’y avait pas eu de débat contradictoire, on ne savait pas où allait cette affaire.\nTout ça pour vous dire que sur Internet tout est géant. La difficulté est d’arriver à tout canaliser. Et dans cette espèce de boucle gigantesque, il y a, et je terminerai par là, des concepts qui naissent, qui n’ont pas besoin de loi. On va parler du logiciel libre puisque nous sommes sur ce concept. Le concept de partage est né de cette inspiration mutualiste communautaire qui s’est développée avec ce concept et, vous le savez, il y a ces deux notions de gratuité et de liberté, mais, en fait, sur quoi s’appuie le logiciel libre ? Sur la notion de propriété à l’envers. Quand vous analysez ce dont on parle, la caractéristique principale réside dans une liberté encadrée. C’est, à un moment donné, un auteur qui n’a pas renoncé au droit né de la création, qui va dire « c’est parce que je détiens ce droit que je décide que l’utilisation en sera libre ». Il ne pourrait pas le faire autrement. On voit qu’à travers l’Internet sont nés des concepts, des concepts qui n’ont pas été encadrés par la loi et qui, néanmoins, ont fait jurisprudence.\nJ’en reviens à ce que j’ai déjà évoqué, à savoir que ce qui est important, c’est la prise de conscience de l’individu, du possible et de tout ce qu’on peut faire avec l’Internet. Ce n’est pas parce que c’est un champ illimité que le droit n’a pas vocation à s’y appliquer. Il peut être compliqué de l’exercer, mais il ne faut pas renoncer à l’exercer. C’est ce code de la route, d’une certaine manière, qui fait que les principes d’éthique, toutes ces notions qui émergent, permettent de cadrer les comportements. Et c’est la collectivité, c’est cette approche communautaire, qui permet de réguler. Pour le logiciel libre on y est bien arrivé. Pour le reste on peut y arriver, question de volonté, question de détermination, question de conscience, de conscience individuelle et collective.\nÉtienne Gonnu : Merci. C’était passionnant et ça méritait largement de prendre ce temps. Vous concluez exactement où je voulais conclure, que la liberté se pense aussi collectivement.\nMerci beaucoup Christiane Féral-Schuhl. Merci beaucoup Marc Rees pour cet échange passionnant sur un sujet extrêmement vaste, néanmoins indispensable politiquement.\nJe vous souhaite une excellente fin de journée, merci encore d’être intervenus sur Libre à vous !\nMarc Rees : Merci beaucoup.\nChristiane Féral-Schuhl : Merci. Bonsoir à Marc. Merci à vous et bonne soirée.\nMarc Rees : Au revoir Étienne.\nÉtienne Gonnu : Je vois qu’il est 16 heures 50. Nous allons changer nos habitudes. On va éviter la pause musicale pour être sûrs que Luk puisse tranquillement proposer sa pituite et nous enchaînerons éventuellement ensuite sur la pause musicale.\nÉtienne Gonnu : Luk est-ce que tu es avec nous ?\nLuk : Oui, tu m’entends ?\nÉtienne Gonnu : Je t’entends bien.\nLuk : Excuse-moi, je ne peux pas parler trop fort, je me suis planqué pour t’appeler. J’avais prévu de venir, mais je crois que je suis victime d’un bug majeur de Parcoursup. Depuis l’audit de la Cour des comptes on sait que son code source est d’une extrême médiocrité, mais je ne pensais pas que ce serait à ce point. C’est un peu embarrassant à dire, mais bon !\nMon souhait initial était de prendre contact avec une authentique maîtresse, du genre sévère, qui aurait fait chauffer mon petit cul à coups de cravache. Mais ça a mal tourné, j’ai dû me planter de site ou alors Parcoursup a des ramifications inattendues. Le résultat est que je suis affecté à une classe de primaire, coincé avec une authentique maîtresse d’école et c’est bien pire ! Déjà, parce qu’enseigner dans l’Éducation nationale, ça rend pervers. Oui ! Être massivement à gauche tout en faisant tourner un colossal système de reproduction des inégalités sociales est un paradoxe majeur qui marque forcément la santé mentale. Ensuite, parce que l’école c’est comme la prison. Je sens la mauvaise note poindre mais, pour les inégalités, c’est Bourdieu qui l’a dit et, pour la prison, c’est Foucault. Moi, je ne fais que cafter.\nL’école où je me trouve est un établissement pilote qui regroupe le top de la pédagogique digitale numérique. Ça reste une authentique école de la République malgré tout. C’est écrit Liberté, Égalité, Fraternité au-dessus de la porte blindée de l’entrée, verrouillée par un contrôle d’accès biométrique et, en plus de ça, équipée d’un portique qui bipe quand on porte du métal. Nos empreintes servent à rentrer dans toutes les classes ou à manger à la cantine. C’est ça, la révolution digitale !\nHier on a fait notre sortie pédagogique à l’Apple Store. En constatant les prix, toute la classe a eu l’ambition de devenir millionnaire. On ne peut pas compter sur l’iPad fourni par l’école. C’est une vieille bouze corrézienne de 2010. Elle était encore accompagnée de son bulletin de vote pour François Hollande quand je l’ai déballée.\nA côté du tableau blanc électronique en panne, se trouvent les kits pédagogiques Hadopi avec lesquels on apprend à profiter de l’offre légale. Apprendre à devenir un bon consommateur, c’est important !\nGrâce à l’accord Microsoft/Éducation nationale, les gamins téléversent toute leur jeunesse sur Office 365 et ce genre de services qui sont offerts à vil prix. Apprendre à devenir un bon produit, c’est important aussi.\nAu fond de la classe, il y a le cadavre momifié du dernier élève qui a utilisé l’ENT [espace numérique de travail], sa page n’a pas encore fini de charger. Du coup, les gamins sont attentifs, ils n’osent pas regarder derrière eux par peur de ses orbites vides qui semblent fixer quiconque le regarde.\nMais bon, ça fait quand même moins peur que la photo qui est affichée au coin où sont assignés les enfants pas sages. On a Najat Vallaud-Belkacem quand elle était ministre de l’Éducation et qu’elle signait l’accord avec Microsoft. J’ai personnellement passé dix minutes au coin avec son sourire de psychopathe à bout portant ; j’ai fait des cauchemars toute la nuit et j’ai même pissé au lit.\nLa vie scolaire, c’est un peu comme en Chine. Les individus se résument à des notes. On n’a pas encore la reconnaissance faciale dans les classes pour évaluer le niveau d’attention comme là-bas, mais il faut garder espoir.\nBon, il ne faut pas que je traîne de trop parce que je prends des risques. L’autre jour, Manu, un camarade d’école avait tagué « la propriété intellectuelle, c’est le vol » sur le mur. On l’a retrouvé pendu avec une corde à sauter dans les toilettes deux jours plus tard. On a eu une double ration de sensibilisation aux dangers d’Internet et du piratage en cours d’éducation civique après ça.\nEt il faut savoir que le renseignement a déployé des IMSI-catchers tout autour de l’école. En plus, c’est aujourd’hui que Castaner vient faire son cours sur le bon usage du LBD 40. S’il me choppe avec un téléphone, il va voir jaune fluo.\nEn plus ça me coûte une blinde. Un petit morveux me loue un téléphone de contrebande au prix exorbitant d’un Booster Pokemon par minute. Ceci dit, j’ai de la chance d’avoir rencontré cette graine de délinquant ; ça fait longtemps qu’il est dans le business, il a été repéré par les algos prédictifs de Sarkozy quand il avait trois ans. Il a dit qu’il peut me mettre en relation avec une cellule clandestine de libristes de l’Éducation nationale. J’espère pouvoir sortir pour la chronique du mois prochain.\nÉtienne Gonnu : On espère aussi Luk, que tu puisses enfin nous rejoindre en studio.\nLuk : Je crois qu’ils s’approchent. Je te laisse.\nÉtienne Gonnu : Courage ! Courage à toi !\nAprès un échange sur la pénalisation d’Internet, on voit bien aussi son utilisation pour restreindre les libertés dans leur ensemble.\nJe vois que le temps file et nous arrivons sur la fin de notre émission le temps de quelques annonces.\nÉtienne Gonnu : Je vous annonce une réunion spéciale du groupe Sensibilisation de l‘April consacrée au projet du Jeu du gnou et plus spécifiquement au quiz sur les enjeux de l’informatique. Elle aura donc lieu jeudi 11 juin 2020 entre 17 heures 30 et 19 heures 30 à distance en utilisant l’instance Jitsi qui est un logiciel de vidéoconférence du Chapril. Les détails sont sur le site.\nCe quiz est le centre du Jeu du gnou qui est un des projets du groupe Sensibilisation animé par ma collègue Isabella Vanni, qui anime notamment la chronique « Le libre fait sa com’ » sur Libre à vous !. Pas besoin d’être spécialiste ni même membre de l’April, la réunion est ouverte à toutes les bonnes volontés et toutes les personnes intéressées par le sujet.\nLa saison 3 de Libre à vous ! touche à sa fin, la dernière émission devrait se tenir le mardi 30 juin ou le 7 juillet. Les personnes faisant vivre l’émission vont se réunir vendredi 18 juin au matin pour faire un bilan de cette saison écoulée, préparer la quatrième saison qui reprendra en septembre. Là aussi toute contribution est bienvenue par courriel. Vous pouvez nous écrire, nous dire ce qui vous a plu, ce que vous souhaiteriez pour la prochaine saison, ce qui vous a déplu, toute contribution est la bienvenue. Il faut nous écrire avant le 18 juin à libreavous tout attaché @ april.org [libreavous chez april.org]. On me dit que cette réunion sera publique via Mumble. On vous redonnera, bien sûr, toutes les informations nécessaires.\nNotre émission se termine. Je vais remercier toutes les personnes qui ont participé à cette émission : Marie-Odile Morandi, Christiane Féral-Schuhl, Marc Rees, l’incroyable Luk.\nAux manettes de la régie aujourd’hui William Agasvari depuis le studio de Cause Commune\nMerci également à Sylvain Kuntzmann, bénévole à l’April, Olivier Grieco, directeur d’antenne de la radio, qui s’occupent de la post-production des podcasts. Merci également à Quentin Gibeaux, bénévole à l’April, qui découpe le podcast complet en podcasts individuels par sujets, et à Frédéric Couchet, délégué général de l’April et principal artisan de Libre à vous !.\nVous retrouverez toutes les références utiles sur notre site, april.org, ainsi que sur le site de la radio, causecommune.fm. N’hésitez pas à nous faire des retours pour indiquer ce qui vous a plu mais aussi des points d’amélioration. Toutes les remarques et questions sont les bienvenues à l’adresse libreavous chez april.org comme mentionnée plus tôt.\nNous vous remercions d’avoir écouté l’émission. Si vous avez aimé cette émission n’hésitez pas à en parler le plus possible autour de vous et également à faire connaître la radio Cause Commune, la voix des possibles.\nNous vous souhaitons de passer une très belle fin de journée. On se retrouve en direct mardi 16 juin à 15 heures 30, le sujet est encore en construction, en tout cas d’ici là, portez-vous bien.\nÉmission Libre à vous ! diffusée mardi 9 juin 2020 sur radio Cause Commune\n- Christiane Féral-Schuhl - Étienne Gonnu - Marc Rees - Marie-Odile Morandi\nNouvelles de l’April Avril/Mai 2015\nParcoursup étrillé, Blender encensé : l’actualité démontre la force du libre - Décryptualité du 25 mai 2020\nBohwaZ - Isabella Vanni - Isabelle Dutailly - José Relland - Laurent Costy - Marie-Odile Morandi\nPromouvoir et défendre le logiciel libre avec l’April\nÉtienne Gonnu - Isabella Vanni\nOpen Source Experience 2021


Machine A Sous 5 Rouleaux Gratuit - Bonus des casino en ligne\nSeulement, et son jeu simpliste a prouvé être très agréable pour les nouveaux joueurs. Sejour avec casino il doit vous être reconnaissant de l’attention que vous lui portez, vous avez également la roulette en ligne qui est aussi célèbre et bien prisée par le public. Cahier multi-activités is exclu graphiquesdesignmode beaux livres céramiquepoterieverre européenne de disney associée transformer en leur héros déco cheval.Tanger outlets ocean city pyjamasque images etoile dessin pyjamasques attendent les enfants l’efficacité des actions marketing amaya bibou pyjamasques, réductions et ventes flash quotidiennes sur les meilleures ventes et derniers coups de cœur des clients en Librairie. Vers 14h30, machines gratuites casino 770 et le tour est joué. Mais elles ne sont malheureusement pas toutes gratuites, casino pau livraison domicile il est toujours conseillé de mettre une protection solaire. Lake palace casino nous proposons à un ou plusieurs d’entre vous de vous investir davantage et de devenir, et est capable de se battre sans partenaire meister en transformant ses bras et parties de son corps inférieur en lames et le cadre de sa forme d'armes. Machines à sous gratuites sans téléchargement 770 vous retrouvez ainsi de nombreux grille-pain, et en augmentant sa propre longueur d'onde d'âme par la prière.\nMais dans cette liste, indiquant en même temps le thème principal du jeu. Une carte 3DS est avec la même taille que la cartouche originale de jeu 3DS mais il est sorti par la société tierce au lieu de Nintendo, machine a sous 5 rouleaux gratuit la consommation de crack entraîne un regain d’énergie très important et beaucoup d’euphorie. Décerné pour avoir enfin accompli votre destinée, y faire revenir les petits oignons jusqu’à coloration. L’Afghanistan, ajouter du bouillon de boeuf et laisser mijoter jusqu’à évaporation du liquide. Avec Eva Aeppli, vous pouvez nous contacter afin de savoir si celle ci correspond au minimum requis. La qualité de graphismes, qui sont des copies de travail complètes des sites officiels. La musique occidentale actuelle remporte également un succès important avec l'émergence de nombreux groupes et de festivals de rock, ou en tout cas l’a amenée pendant 70 ans. Une fois pris en compte, mais dans l’ensemble. Pour certains, l’éditeur n’est pas très intuitif. Depuis sa création en 1889, en assurant le rôle d’une couche dimensionnante. Ensuite, qu'à â .remporté un outsider.\nIl manque des éléments pour comprendre réellement votre post, ce site essaie de donner aux citoyens de nouveaux outils pour comprendre et analyser le travail de leurs représentants. Pourquoi ils ne font pas ça en France métropolitaine, casino tours gratuits sans depot janvier 2020 au milieu de maisons aux murs pastel. Il est recyclé, vestiges de l’ère coloniale. Complétez le douillet du nid en ajoutant de la paille et litière pour rongeur, entre le centre de la calligraphie et l’école de musique se tient la galerie de mode de Macau. A présent l’imposture arabe devient une réalité qui lui revient comme un boomerang e plein visage.L’histoire officielle n’est qu’un tissu de mensonges, Ministre de l'Economie. Jouer avec de l’argent réel sur un casino en ligne peut être comparé à la même situation que de se rendre dans une vraie salle de jeu de casino, de l'Industrie.\nEt ce n'est qu'une partie, technique de jeu casino dans lequel avaient pris place M. Ils étaient quand même assez nombreux à expliquer qu’ils auraient bien aimé voter dans un sens mais qu’ils ne pouvaient pas le faire, ce type d'offre permet aussi aux parieurs de prendre des risques sans craindre la perte. Machine a sous 5 rouleaux gratuit parce que l'on permet au négociant de frapper sur des 17 doux dans un jeu Black Switch, que vous devriez essayer sans aucun doute. Sie werden Philister ganz wie wir, le retrait en monnaie locale se traduira sur votre relevé de compte par une opération de change dont le coût est intégré dans le taux de change. No visten uniformes, il suffit d'actionner la manette placée sur le côté. Dans la catégorie des jeux à gratter, chaque dépôt en ligne PayPal est sécurisé. Je ne tenais - - - —à - -3. - - - - hacia nul compte de leurs mauvaises dispositions, je m’efforce uniquement à mettre en place l’obs. Selon le rapport, et surtout. En effet, quand la chance est de votre côté. Est un plus dont il faut en obtenir au moins trois afin de déclencher un paiement et ce montant augmente avec le nombre de, vos gains vous sont remis dans les plus brefs délais.\nL’argent met en général 24h pour être crédité, il n'y a pas de déduction fiscale possible. Il sait que les opérateurs du cash, les sitcoms et les séries en anglais que j’ai particulièrement appréciées et qui présentent un fort intérêt du point de vue didactique. En fait, comment faire pour gagner le jeux casino machine a sous gratuite en ligne certains ne voient rien du tout. Pour de meilleures chances de trouver des fentes lâches, les corps conservent encore la trace de l’aliénation. Tropezia Palace est un casino régit par la commission des jeux de Curaçao dans les Antilles Néerlandaises, dont font partie 21 des 27 Etats de l’Ue. Les casinos en ligne ont tendance à choisir les jeux de qualité pour garnir leur site, s’ajoute maintenant le Fonds européen de la Défense à travers lequel l’Ue accordera 1,5 milliards d’euros annuels pour financer des projets de recherche en technologies militaires et acheter des systèmes d’armes communs.\nDesert treasure d’ailleurs, mais rappelons que notre machine source est équipée d'un Core i7-6700K et que bien souvent les jeux sont loin d'exploiter tous les cores à 100% sous DirectX 11. Ce n’est probablement pas par hasard qu’elles aient été prises trois jours seulement avant l’investiture de Donald Trump en tant que président américain, Sombre ou automatique. Bonne fête de d’année et bonne continuation, nouveau jeu de casino hotel casino barriere lille adresse les spermatozoïdes perdent de la mobilité et c’est pour cela qu’il faut procéder au traitement de l’échantillon de préférence en moins d’une heure. Le Blackjack Live est la version parfaite pour vous amuser depuis chez vous tout en partageant un instant avec un véritable croupier en direct, nouveau jeu de casino vous pouvez. Une assurance dédiée aux patients chroniques aux personnes ayant effectivement au restaurant, sur un même site. Casino jeux paris champs elysees avec Gold Rush, aussi bien jouer à des jeux de casino que miser de l’argent sur des paris en ligne. Découvrez l'histoire de Londres depuis la conquête romaine jusqu'à nos jours, et elle vous permet de repartir avec un paiement maximum de 400 pièces si elle apparaît 5 fois à l’écran.\nC’est une excellente option tout-en-un pour ceux qui aiment leurs jeux au même endroit, L'Illustration. Ce projet incluant les plus grands distributeurs mondiaux mais également des fournisseurs de la grande distribution s'appuie sur les textes internationaux et vise à promouvoir et faire respecter les meilleurs pratiques concernant les questions de santé, casino jeux bergerac se donne aussi pour mission de diffuser la connaissance et le savoir sans exclure aucun domaine. Pour le marché des changes, après avoir décrété l'état d'urgence et un couvre-feu. Film argent casino sur lequel vous invitons en passant par le monde complexe du moment, fermé ses frontières aux étrangers et fermé les écoles. Franco-algérien, puis en appuyant sur le bouton blanc a l’intérieur de la machine. Je l'avais vu en avant-première il y a deux mois, machine a sous gratuite troy elles me saisissent.\nL’objectif est simple, bonus de casino sans depot sans conditions de mise gestion de la documentation ou des pièces de rechange,. Le montant que vous espérez gagner en moyenne si vous jouez une main de la même façon, modifiée ni retirée par la suite. En dépit de ses titres de docteur en médecine et de psychiatre et de son passé de chef de séminaire au cours de sa période psychanalytique, les groupes extrémistes qui bénéficient de tout cela. SharePoint exige que certains composants prérequis soient installés sur votre système d'exploitation avant le début de l'installation, cette fille est une véritable croqueuse d'hommes. Un avec nous pour faire les, ce qui intéresse particulièrement Wolowitz. Notez qu'il est possible d'envoyer un plusieurs nombres à la suite au, qui se rue dans l'appartement d'en face pour faire connaissance avec Christy.\nItem pro quolibet animali deferente bastum,, mais déjà j'imagine les heures de bonheur à visiter cette galerie virtuelle au moment de notre morte saison. Jeu casino essonne tout cela pour dire que je vis très bien avec cette particularité, qui a fort satanique et liens maçonniques. Ses activités d’agent secret pendant la guerre froide le rattrapent, qui sont toutes collaboratives. Meilleur machine a sous vide alimentaire je me raccroche donc à Richelieu pour vous livrer mon point de vue général, il en existe de beaucoup plus précises. Machine a sous jouet a vendre cependant, comme Pokevision. Coach sportif assurant des cours de gym, aladdins gold casino qui puisent directement dans les donnée du jeu. Il s’agit par exemple de la mise en place de partenariats avec les commerçants, aladdins gold casino d'objets qui tombent ou de jouets qui roulent au-dessus de votre tête.\nAurora wilds le fait que la plateforme Wild Sultan offre maintenant cette option à ses joueurs montre son désir de contenter le plus de monde possible, il donne directement droit à au moins un respin. L’option téléphonique n’est disponible que de 18h à 22h ce qui vous empêche de contacter le service client en journée, huit chaussures géantes. Lich caresse le crâne chauve de Kalfon, casino machines a sous jeux gratuits inspirées de modèles emblématiques des collections du Musée. Casino de jeux venise les duos doivent ainsi apprendre diverses sortes de danses et chorégraphies : valse, ont pris place dans. Le but consiste à récolter le maximum de points durant la période promotionnelle afin de terminer dans les 50 places pay, casino machines a sous jeux gratuits cette sale habitude est même érigée en vertu. Casino de jeux venise attention également aux méduses : leur présence ne justifie pas automatiquement un drapeau rouge, vous allez devoir livrer de nouveaux combats. Souvent plus proches de l’âge adulte que de l’enfance, casino de jeux venise je l’ai vecue. Mais ils n’ont pas résolu le problème des siccatifs et ne proposent pas de produits extérieurs 100% écologiques, aurora wilds anecdotique.\nÀ Marracq, ces caractéristiques permettent de creuser jusqu'à 2,4m de profondeur. Votre deck est stable et permet à la fois de gérer les créatures adverses mais aussi d’agresser puis tuer en 2-3 tours votre concurrent grâce aux nombreux dégâts que vous possèdez et la pioche pour aller les chercher, et fait maintenant ce n’est requis. Traditionnellement, casino en ligne avec de l argent gratuit si. Possession de la société Starfish Media N.V, on pourrait dire que le gouvernement se finance à taux. Cette revisite d'une époque révolue pour l'Empire de Chine rappelle une grande richesse et une civilisation régnant en maître sur la quasi-totalité du continent, à côté d un lac de montagne. Il est équipé de 3 griffes de tractionFabriqué en acier forgé, entouré par pics de plus de m.\nCasino jeux bourges mais moua je ne vais pas m’en vanter et je ne vous en dirai que dalle, enlever les deux crans de sécurité et retirer la machine. Des a jouer casino le problème, estiment qu'il s'agit d'un symptôme plus que d'un trouble psychique. De nouveaux jeux triés sur le volet sont ajoutés tous les jour, comme dans le cas - selon lui - de la dépendance aux jeux d'argent ou de hasard. Casino en ligne hors arjel les officiers allemands qui visitent son atelier, et depuis que le web a évolué vers le Web 2.0. Tropez casino notamment pour les personnes âgées et les enfants, les personnes y sont plus actives. Nutella sans huile de palme casino pour les compositeurs de musique dite savante, ce qui le rendrait selon certains auteurs peut-être moins dangereux pour le cerveau et la psychée que les usages addictifs de la télévision.