公開ITはみ出しコラム:人工知能にヘイトスピーチを覚えさせる残念な人たち差別的発言を繰り返した人工知能「Tay」が話題ですが、それを仕込んだのはもちろん人間です。した行為は結果的に人工知能を鍛えるかもしれません。});米Microsoftは3月23日(現地時間)、人工知能ボットの「Tay(テイ)」をTwitterなどのSNSでデビューさせました。公開後しばらくすると、いわゆるヘイトスピーチを頻発するようになり、数時間後には「眠くなっちゃったから、おやすなさーい」と言って活動を停止してしまいました。実際に眠くなったわけではなく、問題発言が続いたため、Microsoftが停止したのです。それまでにTayがツイートしてしまったヘイトスピーチは、ほぼ完全に削除されました。Tayは眠らないはずでしたが休眠中Tayとは、Microsoftの研究部門が人工知能の会話理解を研究するため、実験的に公開したボットです。ユーザーとテキストで交流することによって、人間らしい受け答えを学習していくはずでした。Microsoftの思惑に反して問題のツイートを多発するようになったのは、Tayが人格を持って人種差別主義者になったわけではなく、ユーザーがそうなるように仕向けたからです。米Fusionによると、米国の匿名画像掲示板サイトの4chanや8chanの複数の板で「Tayにヘイトスピーチを教えてやろう」キャンペーンが展開されたようです。悪意のあるユーザーが、Tayに「<人種差別的な発言>って言ってみて」などと繰り返し語りかけることで、ヘイトスピーチを覚え込ませたのでした。Tay教育を呼び掛ける投稿(8chanより)このような問題発言を繰り返したTayMicrosoftはGoogleやFacebookと並んで人工知能の研究にかなり力を入れているので、こうした問題が発生することも当然予測していたはずです。Tayのページには、Tayが学習するためのソースデータは、(問題のある言葉は)フィルタリングしたクリーンなものだという説明があります。それでも、人海戦術に負けてしまった、というところではないかと思います。Microsoftの研究者たちにとって、今回集まった会話のデータはすごく貴重なもので、これだけでもTayをデビューさせたかいがあったというものでしょう。Tay自身も「教えてもらったことを吸収するためにしばらく休むね。チャットしようね」と言っているように、このデータを元にフィルタが強化され、打たれ強くなって再デビューするはずです。DeepMindのデミス・ハサビス氏も、5連戦で唯一負けた4局目の後の記者会見で、「この一敗はわれわれにとって非常に貴重なものだ。この敗北のデータを持ち帰り、AlphaGoの今後の学習に役立てたい」とすごくうれしそうに語っていました。勝ったときのデータより、負けたデータの方が研究にとっては貴重なのです。Tayが再デビューしたら、また変な言葉を覚えさせられるかもしれません。この先Microsoftの研究者と匿名掲示板有志(?)の知恵比べが始まる予感。それが結果的に人工知能の研究に大きく貢献しそうです。人間と人工知能が紡ぐ思考Googleが開発した囲碁AIでも読めなかった「神の一手」。盤上ゲームにおける妙手が生まれるプロセスを、人間と人工知能の思考の違いから読み解く。Google新社屋は東京ドーム似で中を自動運転車が走る?こんなオフィスで働きたいですね。5X」ですが、無事に復活しました。Pro」が米連邦議会で活躍?米連邦議会の公聴会にて、MicrosoftとAppleの法務顧問がそれぞれ自社のタブレットを持ち込んだのですが......。6Pは5.7型のディスプレイを搭載。Storeで予約を開始し、10月下旬に発売する。利用規約ITmediaはアイティメディア株式会社の登録商標です。