運用から3年たった今ドイツでは、ソーシャルネットワーク(以下SNSと表記)上のヘイトスピーチや偽情報の急増を背景に、「ソーシャルネットワークにおける法執行を改善するための法律」が2017年に制定されました。本格的な運用から3年余りの歳月がたちましたが、この法律はどのような効果をSNS上や社会にもたらしたのでしょうか。運用後明らかになった課題などはあるのでしょうか。本稿では、このような素朴な疑問をもとに、この法律をとりまく現状やドイツ社会の変化について観察・考察してみます。※この法律の邦語の略称として「SNS対策法」や「SNS法」という表記が使われる場合もありますが、本稿では「ネットワーク執行法」という表記を用います。disinformation)。「フェイクニュース」という言葉で示される内容もここに含まれると認識し、本稿では「偽情報」という言葉で一括して表記しています。ネットワーク執行法の概要と背景まず法律の概要を説明します(法の内容の詳細や成立当初の諸論点については別稿参照。ネットワーク執行法は、何かを新たに違法と定め禁止するのでなく、刑法で違法となるSNS上のコンテンツに対する処理をSNS事業者が確実に遂行するために、具体的な扱い方と義務化を定めた法律です。2017年10月1日に施行され、翌年1月から本格的な運用がはじまりました。それまでも、違法なコンテンツ(内容)を速やかに削除し、閲覧できなくすることを、SNS事業者に課す法律はありました。効果がほとんどみられず、2015年の難民危機にあって、難民やそれを支援する人への排斥主義的なヘイトスピーチがSNS上で急増しました。2016年には、アメリカ大統領選期間中に拡散された偽情報の社会的影響力の大きさが(「フェイクニュース」として)問題視され、ヘイトスピーチや偽情報の規制を望む声が国民の間でも強まっていきました。このような状況下、SNS事業者の義務の履行を徹底させるため、改めて作成されたのがこの法律です。具体的に加罰の対象となるコンテンツは、例えば侮辱罪(刑法185条)、悪評の流布罪(186条)、不実の誹謗罪(187条)、民衆扇動罪(130条1項、2項)などに該当するコンテンツです。ちなみに民衆扇動罪とは、ドイツでは「特定の集団や住民の一部に対して、公共の平穏を乱すのに適した態様で憎悪をかき立てること」(鈴木「ドイツのSNS対策法」2018、2頁)をさします。ドイツ国内の登録利用者数が200万人以上の営利的SNS事業者に、具体的に以下のような義務が課せられることになりました。・ドイツの刑法で違法(で処罰の対象)と疑われるコンテンツを、利用者が簡単に苦情として報告できるよう、苦情受付(報告)サイトを設置する。・苦情報告を受けた後は、コンテンツを審査し、ドイツの刑法上明らかに違法なものは24時間以内、それ以外の違法情報についても7日以内に削除、あるいはドイツのIPアドレスをもつ人が閲覧できないようにアクセスをブロックする。連邦官報および自身のウェブサイト上で公表する。事業体が上記の義務を十分に行っていないと認められた場合は、最高5000万ユーロまでの過料が科せられることになりました。アメリカのトランプ大統領のコンテンツへの対処との違いこの法律の特徴は、今年はじめのアメリカのトランプ元大統領に対するSNS事業者の措置と比較すると、理解しやすいかと思います。アメリカでは1996年に、言論の自由を保障する憲法修正第1条を補強する「通信品位法第230条」が連邦議会で承認され、以後、利用者が公開したコンテンツについてプロバイダであるIT企業の免責を認められてきました。このため、SNS上にも利用者が発信するコンテンツがほとんど規制なく掲載されてきましたが、今年初めに議事堂襲撃事件が起きると、暴力を賛美するようなコンテンツが利用規定に違反するとして、大統領のアカウントを無期限凍結する措置がツイッターやフェイスブックなどSNS事業者で相次ぎました。この措置に対しドイツのメルケル首相は、報道官を通じて批判しています。SNS事業者は憎悪や暴力と結びつかない政治的コミュニケーションの場をつくる責任があるが、言論の自由は基本的な権利で非常に重要であり、SNS企業指導部の決定でなされるべきではない。ドイツでは、判断や処理が公正に行われるようにするため、その判断の基準や処理の仕方といった枠組みを定める法が必要であり、処理について透明性を保つため、経過や状況についてSNS事業者が定期的に報告させることも重視します。正しく処理されていないことがわかれば、国がすぐに介入できるようにするためです。SNSの言論空間の公正さが担保するために、このような法的しくみをもつことが不可欠と考えるのがメルケルの意見であり、ドイツのネットワーク執行法の主眼となります。上述のように、ドイツでもネットワーク執行法は、刑法で違法とみなされるコンテンツのみを対象にした処理の要請であり、ほかの偽情報は対象になりません。偽情報の拡散自体を取り締まるものでもありません。このため後述するように、ネットワーク執行法にひっかからない偽情報など、ほかのコンテンツ全般の処理は、事実上ドイツにおいてもSNS事業者に委ねられています。ネットワーク執行法の運用状況この法律に対しては、これまでSNS上の偽情報やヘイトスピーチを規制する手法として注目が集まった一方、批判する声も多くありました。SNS事業者が高額な過料を科せられることへの恐れから迅速に処理するため、コンテンツを安易に削除する傾向が強まるのではないか(オーバーブロッキング)。法律ではSNS事業者の公平性・正当性が十分に担保されておらず、言論の自由が保証されず、萎縮効果が生じるのではないか、といったことが主な理由です。国内の話だけでなく、独裁的な政治体制の国で、この法律を「模範」として法律が作られ、言論の自由の規制に拍車がかかるのではないか、という対外的な影響を危惧する意見もありました。批判者たちは、ネットワーク施行法の運用によって、ヘイトスピートや偽情報の排除や抑制につながる可能性と、ソーシャルメディア上の言論の自由をなし崩し的に脅かす危険性を両天秤にかけ、後者の弊害のほうをより深刻にとらえる悲観的な評価を下していたようにみえます。これに対し、実際の運用状況はどうなっているのでしょう。2021)をもとにポイントをまとめてみます(ただし本文中、筆者が補足した部分も若干含まれます)。この文書は正確には、ネットワーク執行法の現状についての自由民主党(FDP)の質問に対する回答です。具体的な質問に沿って、政府が認識する今後の課題や検討中の事項と合わせて、法律運用状況が説明されており、法律をめぐる現在の状況が俯瞰できる内容となっています。半年ごとに集計された主要なSNS事業者が受け付けたネットワーク執行法に関わるトータルの苦情件数と、そのなかで実際に処理(削除)されたコンテンツの割合(括弧内の%)を表にすると、以下のようになります。具体的な審査は、SNS事業者と、独立した自主規制機関の二箇所で行われています。通常の審査はSNS事業者のみで行い、SNS事業者だけでは判断が難しいと思われる件は、自主規制機関に相談するという二段階制です。SNS事業者の審査は、数週間の専門的な研修を受けた常勤スタッフと数人の法律専門家が担当し、ネットワーク執行法の苦情としてだされたコンテンツはすべて、アルゴリズムではなく、人によってその違法性が検証されています。(FSM)が、ネットワーク執行法に対応した自主規制機関として初めて国からの認定を受け、以後、SNS事業者と協働しています。危惧されていたオーバーブロッキングはどのくらいおきているのでしょう。Bundesregierung)、政府報告では、問題視されるようなことは起きていないという最終的な判断を示しています。その根拠として重視されているのは、扱うものを刑法に違反するものと明確に定義し、判断に必要となる時間を考慮し、難しい案件には猶予をつけていたり、個別の処理の不手際があっても過料の対象とならないようにするなど、オーバーブロッキングを未然に防ぐことを配慮したメカニズムが法律のなかにあることです。実際に、SNS事業者が、ネット執行法の違反があるとして苦情があったコンテンツで削除している割合が、多くても3割で1割以下の場合もあること、また、これまでネット執行法の苦情をめぐり(削除されたことを不服とする)訴訟が起きていないことを、オーバーブロッキングが起きていないことや、オーバーブロッキングが問題となっていない証拠としてあげています。4.異議を申し立てる人の権利強化とはいえ、侮辱や名誉毀損といった比較的判断が下しやすいコンテンツに比べ、風刺のたぐいは違法性の線引きが難しく、専門家が処理しても、処理に不満をもつ人は少なくないことも認めています。このため、SNS事業者の削除などの処理に不服がある場合、今よりも異議を言いやすくするようにするしくみが必要だとします。SNS事業者が異議の手続きに一定の形式をつくり、異議については個別に改めて検討することなどが、将来的に改正案に盛り込まれる予定だとしています。現行の法律でも、苦情受付のサイトをわかりやすく提示することを義務づけていますが、具体的な形式などを定めてはいません。このため事業者によっては、苦情の受付サイトがわかりにくかったり、あるいは、苦情申告の際に、ネットワーク執行法のどの条項に該当するのかを選択させるやり方をとるなど、一般の人に負担が大きいという問題がありました。現行で義務化されている報告書だけでは、訴えた苦情が適切に処理されているかを知り得ないことも基本的な問題だとしています。このため法の改正案では、苦情をわかりやすく簡単にできるようにするためのより詳細の条件をつけたり、苦情の処理のプロセスの透明性を高める案が検討されているとします。大手のSNS事業者のコンテンツは、ネットワーク執行法や、SNS独自の利用者規定によって、違反するものへの監視が厳しくなっているため、問題となるようなコンテンツが表示されるのは難しくなりました。他方、削除やアカウントのブロックの処理を受けた利用者たちの間では、ほかの新興プラットフォームに移っていく人が増えるという新たな潮流も生まれています。政府としては、そのようなネットワーク執行法の対象になっていないほかのプラットフォームにおいて、「急進主義的あるいは民衆扇動的な内容や殺しの脅迫などが広がっている」と認識し、観察しているとします。この対策としては、国内で対象とする事業者を広げるというやり方ではなく、EU全体で問題に取り組む方針で、現在EUで作成中の「デジタル・サービス法」(ネットワーク執行法とほぼ同じ方針で、EU全体を網羅する法律として2024年ごろの成立が目指されている)の専門委員会に働きかけており調整中であるとしています。以上が政府の報告内容の要旨ですが、報告で十分取り上げられていなかったり、わかりにくい点、また今後の課題について、わたしのほうから私見も含め以下、指摘してみます。件数が3年間を通して圧倒的に多いのがツイッターです。このことはツイッターが現在のドイツで、政治的なコミュニケーション手段として最も多く利用されているSNSであることを象徴しているといえるでしょう。いえ、フェイスブックの苦情件数がほかのSNS事業者に比べ、2桁も離れて少ないことは腑に落ちない気がします。フェイスブックを利用するドイツ人が3000万人もいて、ドイツのSNS市場の3分の2を占めているときくとなおさらです。この理由として二つのことが考えられます。SNS事業者がネット執行法にひっかかる前に、独自にコンテンツを大幅に処理している可能性です。SNS事業者は、ネット執行法とは無関係に、利用者に対し世界共通の独自の利用規定をもうけています(たとえば、フェイスブックでは「コミュニティ規定」と呼ばれているものがそれに当たります)。フェイスブックでは、ネット執行法の苦情に該当するような内容を、利用規定に照らし合わせて大幅に処理をしており、それによってネット執行法の苦情にあがってくることが少なくなっている可能性があります。現行のネットワーク執行法では、事業者の利用規制に先んじて、ネット執行法を参照し判断することを義務化していないため、このような処理(利用規定を優先した処理)はフェイスブックに限ったことではありません。ひとつ有力な理由と考えられるのは、苦情受付サイトのわかりにくさです。端的に苦情が言いにくいことで、苦情報告件数が相対的に減っている可能性があります。ツイッターでは、コンテンツの画面上からすぐに苦情報告の画面にうつることができるようになっているのに対し、フェイスブックでは苦情サイトが「隠れている」と表現されるほどわかりにくい表示の仕方が批判されてきました。苦情のコンテンツネットワーク執行法に触れる内容として苦情報告された内容は、SNSによって若干、割合が異なりますが、全般に、民衆扇動罪や侮辱罪にあたるとして訴えられているものが多くなっています。2020年前期の発表では、ツイッターの76万5717件の苦情報告のうち、一番多い苦情が民衆扇動(20万926件)、フェイスブックでは苦情4292件のうち、侮辱罪にあたると訴えられたものが一番多く(2330件)、民衆扇動罪(1697件)と名誉毀損(1677件)がほぼ同じほどで次に並びました。利用規定に合わせて処理されているコンテンツは、ネットワーク執行法によって処理されるコンテンツに比べ、実際はどのくらい多いのでしょう。SNS事業者がそれぞれの利用規定に合せて消去したコンテンツについては報告の義務がないため全貌はわかりませんが、ユーチューブに関しては独自に世界とドイツ国内の利用規定により消去したコンテンツの統計を発表しています。これによると、ユーチューブでは、利用規定に即して世界全体で2020年4月から6月に1140万件、7月から9月には787万件、10月~12月は、932万件のビデオを消去しています。ちなみに、そのなかで、偽情報に該当すると思われるコンテンツ(詐欺や誤解を招く内容と判断され削除されたもの)の割合は、4月から6月が28.3%、7月から9月が25.5%、10月から12月は、15.5%でした。ビデオに付随したコメントで消された総件数はビデオよりはるかに多く、これらの過半数以上が詐欺や誤解を招くコンテンツ(以下の括弧内の%)でした。4月から6月のコメント削除件数は21億3237万件(52.8%)、7月から9月は、11億403万(51.4%)、10月から12月では、9億620万件(50.8%)でした(YouTube-Community-Richtlinien)。Entfernungen)。削除だけでは不十分なものへの対応この法律によって苦情の対象となったコンテンツで、違法なものの削除は容易になったものの、違法なコンテンツを発信した人をつきとめ捜査することは、SNS事業者が発信者の情報の引き渡しに消極的なため、依然、非常に困難な状況です。極右勢力による政治家や社会的マイノリティなどへのヘイトスピーチや脅迫の被害が後をたたず、これらの犯行がSNSと密接に関わっているという危機感もあり、与党案をもとに2020年6月に「極右主義とヘイトクライムに対抗する法」を新たに成立させました。アドレスなど、詳細にわたる個人情報を迅速に引き渡すことも義務づけられました。手できるかという規定が明確でないという理由)とみなされ、再び国会にもどされましたが、その後若干の修正をほどこされ、今年4月3日から施行されています。Telegramを例にもうすこし具体的にみてみます。昨年4月に毎月の利用者数が4億人でしたが、今年1月には5億人になるまで利用者数が急増しており、ドイツではメッセンジャー・サービスを定期的に利用する人の13%がテレグラムを使用しているとされます。テレグラムが利用規約として定めているのは、スパムを送らない、公開されているチャンネルで暴力をよびかけない、子供のポルノコンテンツを広めない、という3点のみで、制約が少ない自由な発言空間となっており、陰謀論者や極右などの過激思想をもつ人を惹きつける状況になっています。昨年からは、テレグラム上の過激なコンテンツが特に目立つようになり、社会で注目されることが多くなりました。このため「デジタル・サービス法」では、ゲームプラットフォームなどとともに、テレグラムを含むメッセンジャーも規制対象とされる予定です。いえ、ヘイトスピーチや偽情報の新たな発信拠点という視点からみると死角に入りがちな、テレグラムの違う側面にも留意すべきでしょう。テレグラムの設立者ドゥーロフはロシアでの過去の苦い体験から、テレグラムが体制に干渉されない自由なコミュニケーションの場として機能することをとりわけ重視しています。ベラルーシでは独裁政権の圧力に屈せず、利用者データの引き渡しを拒否し、反政府勢力がこれまで制約を受けないコミュニケーション環境を提供してきました。体制側が発信する偽情報に対しても強い関心をもち、前回のベラルーシ大統領選挙直後には、人々の抗議行動に関し政権側が発信した偽のニュースの削除にドゥーロフ自身も関わったといわれます。SNSには当地の政治体制とは無関係に、人々の声を組み上げて、政治的コミュニケーションを活性化させる独自のメカニズムがあります。言)と言われるように、今日の社会においてマスメディアに代替されえない重要な役割を担っていることも確かです。2021)というジレンマがいつもあると言います。言論の自由の保証と違法なコンテンツの排除、そのどちらを優先するか。この古くて新しい問題は、ネットワーク執行法が3年たった現在にいたっても、SNSにおいて旬な問題でありつづけています。「変わらない」を変えられるかこれまでの内容を振り返りながら、改めて考えてみます。ネットワーク執行法の運用から3年余りたち、偽情報やヘイトスピーチをめぐる全般の状況や、それらの社会に与える影響力は変わったのでしょうか。答えを急ぐ前に「変わった」部分と「変わらない」部分の両方がある、そのことを認識することがまず重要でしょう。確かに、主要なSNS上では、問題となるような提示が非常に難しくなりました。それは大きな変化であり、この当然の帰結として、それらのSNS上では少なくともヘイトスピーチや偽情報の影響力が減ったことも、特筆すべき変化としてあげられます。他方、ソーシャルメディアでのヘイトスピーチや偽情報の発信自体は減ってはおらず、違法なコンテンツの発信は別のソーシャルメディアに乗り換えられて続いています。このような「変わらない」継続性もまた事実です。Jarvisは、「ツイッターを修正したり消去することで、すべてがうまくいくと思うのはナイーブだ。」「批判する人たちの多くは、ヘイトスピーチやほかの有害な内容をなくすために、SNSはルール下においたほうがいいという。SNSは中立でなくてはならないとか、アルゴリズムは有害だ、などという。2020)という発言もしています。ジャービスのこの挑発的な言葉をあてはめて、現在のドイツの状況を叙述してみるとどうなるでしょうか。ネットワーク執行法やそれを支持する人々は、「愚かな羊の群れ」のような人が、「愚か」な行いをしないようにコントロールすることが不可欠と考えている、という構図になるでしょう。なると、「愚かな羊の群れ」のように見なされた人たちは、どう反応するでしょう。自分が正しいと思うコンテンツが「愚か」だと烙印をおされ、排除されるとき、その人たちの不満は自然に浄化されるのでしょうか。自分のコンテンツが消去されたり、偽情報の可能性があるという警告ラベルがつけられると、それに納得するより、むしろ不満を強く感じる人が多いと言われます。現在のドイツでは、とりわけ極右勢力の周辺で、このような「愚か」さのレッテル貼りと、それへの抵抗というせめぎ合いが起きているようにみえます。極右勢力は自分の意見を制御しようと仕向ける「政府」や「社会」、またそのような考えを流布したり擁護するマスメディアやSNS事業者にも不信感を募らせ、その不満を規制の少ないソーシャルメディアで発散しています。それがバーチャルなものにとどまらず、現実の暴力行為にまでエスカレートすることも少なくありません。これに対する政府の姿勢はどうでしょう。とめる意思を固め、2020年6月には「極右主義とヘイトクライムに対抗する法」を可決させました。このような状況はしかし、政治的コミュニケーションという視点から眺めると、決して建設的にはみえません。特定の意見をもつ人からコミュニケーション手段を奪ったり、排除することだけでは、さらなる対立の材料はあっても、対立を緩和する材料がなにもないようにみえるためです。メディア不信についての著書で林は、「ドイツではとくに「統合Intergration」という言葉が移民・難民政策にも使われてきた。台頭する右翼を社会にどう「統合」していくのだろうか」(林、メディア不信、224頁)と問いかけています。林が言う、ドイツの政治コミュニケーションにおいて「統合」されるような状況、極右や右翼勢力が、自分たちの発言が無視されていないと認識するような状況をいかに作り出していくのか。ドイツのSNS法―インターネット上の違法なコンテンツ対策―」『外国の立法』278(2018.12)49−61頁。https://dl.ndl.go.jp/view/download/digidepo_11202127_po_02780003.pdf?contentNo=1・鈴木秀美「ドイツのSNS対策法と表現の自由」『メディア・コミュニケーション』2018年No.68、抜粋、1−12頁。地域ボランティアとメディア分析をしながら、ヨーロッパ(特にドイツ語圏)をスイスで定点観測中。日本ネット輸出入協会海外コラムニスト。