#WIREDBizConフェイクニュース、ヘイト、IS(イスラム国)...。いまオンライン上には、インターネットの考案者たちが想定もしなかった問題が起きている。テクノロジーが生み出した闇にどう対処していけばよいのか。Conference」で語った、グーグル流「ウェブのダークサイドとの闘い方」。DREYFUSSWIRED(US)Tweetアルファベットのシンクタンク・Jigsawで研究開発主任を務めるヤスミン・グリーン(写真右)。IMAGESヤスミン・グリーンはグーグルの親会社アルファベットで、とあるチームの研究開発主任を務めている。Jigsawという名のそのシンクタンクのゴールは、オンライン上で生まれる地政学的な問題を解決することだ。彼らはテクノロジーの発展の影響で図らずも生まれてしまった、倫理的に好ましくない状況を打破することを使命としている。画面の向こうにいる人間に直接話しかけるのだ。これは、フェイクニュースの発信者やイスラム過激派たち、ネットいじめの加害者たちの声に耳を傾け、彼らの動機や行動の経緯、目的を理解することを意味する。「わたしたちは検閲やサイバーセキュリティー、サイバー攻撃、IS(イスラム国)などの問題を扱っています。どれもインターネットの考案者たちが当初想定していなかった問題です」。Conference」のなかで、グリーンはそう語った。誰に、何を、どう語りかけるべきか?先週、グリーンはマケドニアに足を運び、フェイクニュースの発信者たちに会ってきたという。彼らはアクセス数稼ぎに明け暮れる日和見主義者で、周知のとおり2016年の大統領選挙で影響力を振るった人々である。グリーンの面会の目的は、フェイクニュース拡散のビジネスモデルを理解し、拡散プロセスを特定して中断させるアルゴリズムを開発することだった(編註:現在発売中の『WIRED』日本版VOL.28では、まさに同様のフェイクニュース発信者を直撃したルポを掲載している)。訪問を通じて、彼女はこうしたコンテンツ工場はソーシャルメディアとオンライン広告を利用していることがわかった。これは、合法的なオンラインメディアが利用しているのと同じツールだ。「フェイクニュースの問題は、アルゴリズムで対処できるはずなのです」。グリーンのチームは現在、GoogleだけでなくFacebookやTwitterといった競合するプラットフォームでも使えるフェイクニュース拡散防止ツールを開発中だ。フェイクニュースと並行して、Jigsawはオンライン上で広がるテロ広告との闘いにも力を入れている。2016年、グリーンはほかのチームメンバーと共にイラクへ向かい、かつてISの新兵だった者に直接話を聞いた。Method」(軌道修正法)と呼ばれるツールである。これは、マシンラーニングを用いて、検索パターンから過激派に共感を寄せるユーザーを見つけ出すものだ。MethodはISの醜い部分を暴く動画を見せるのだ。このユーザーがすでにカリフの元へ行くための航空券を買っているような段階にいるなら手遅れですが、とグリーンは言った。「多くの場合、暴力的な過激派組織へ参加するのは善良でありながら間違った判断をした人たちです。わたしたちはまず、彼らが邪悪なのではなく、ただ事件に巻き込まれつつあるのだという事実を尊重すことにしました。Methodが表示した動画の視聴者は30万人にのぼり、視聴時間は累計で50万分以上となったという。ツールの悪用というリスクグリーンのチームはまた、ニュース配信サイトのコメント欄への有害な書き込みに対応するツールも作成している。彼らがつくったのは「Perspective」という機械学習アルゴリスムで、文脈と感情に関するトレーニング内容を利用し、嫌がらせと思われる書き込みを検知して監視員に通知するものだ。現在、『ニューヨーク・タイムズ』などのサイトでベータ版が運用されている。グリーン自身が言うように、Perspectiveは常に進化続けるツールだ。ひとつ懸念されるのは、ツールそのものの判断に特定の単語や思想、文章のトーンによるバイアスがかかるのではないかということである。このリスクに対処するため、JigsawではAPIを公開せず、部外者がパラメーターを設定できないようにした。独裁政権がこのツールを検閲のためだけに悪用する恐れもあるからだ。「ツールの悪用を防ぐ処置を講じる必要があります」とグリーンは言う。インターネットが考案者が想定しなかったかたちで破壊的な使われ方をしたように、グリーンは自分のチームがつくりだしたソリューションが濫用される危険性を自覚している。常にリスクを考慮している、とグリーンは語る。それは彼女たちが試みをあきらめる理由にはならないのだ。ARの可能性PROMOTION謙虚に耳を澄ませば、建築はやがて「未来の記憶」になる。──田根剛PROMOTIONAudiが考えるモビリティの未来が、次世代コンセプトの「四重奏」から見えたPROMOTION難民は「難しい民」なんかじゃない。みんなが“自分らしく”暮らせる社会をつくる。──渡部清花PROMOTIONテクノロジーが拡張するスポーツとアートの可能性:東京2020は世界の若者の希望となるかPROMOTION足にも地球にも優しい「ジ・オニツカ」という“革新”PROMOTIONあまねく人に社会復帰の機会を。そのために、わたしは農業を続ける。