11:30マイクロソフトのAI、ヘイト発言を「学習」して停止マイクロソフトは、ミレニアル世代をターゲットにしたAIチャットロボット「Tay」を開始したが、16時間後に停止した。ヘイト発言を学習し、乱発し始めたためだ。(UK)Tweetマイクロソフトは3月23日(米国時間)、新たな人工知能(AI)チャットロボット「Tay」を開始した。「人間と対話すればするほど賢くなるロボット」としてだ。開始してから16時間後の24日、Tayは停止された。問題発言を乱発したからだ。Tayは、米国に住むミレニアル世代と呼ばれる18~24歳の若者をターゲットにして、「Twitter」や「Kik」、「GroupMe」のようなメッセージングプラットフォームを通じて対話できるAIだ。Tayが使う語彙のなかには絵文字も含まれている。Tayには実用的な機能がないが、3種類の方法でコミュニケーションが可能だ。「Tay.ai」ウェブサイトには、Tayがテキストでの対話のほか、(一連の絵文字の意味を言い当てるといった)ゲーム、送られてきた写真に対するコメントを行うことができると誇らしげに書かれている。同サイトにはこう書かれていた。「Tayと話してみよう。インターネットからやってきた、まったく役に立たないAIの仲間だよ!」マイクロソフトによれば、Tayの反応は、インターネット上にある公開データと、スタッフとコメディアンが考えた「編集」をベースに機能している。「Tayの主要なデータソースは、匿名化された公開データです。このデータを、Tayの開発チームがモデル化したり、整理したり、フィルタリングしたりしています」Tayは、質問への回答や声明、一般的な悪態など、1万4,000件以上のメッセージを瞬時に送りながら、フォロワーを着実に集めていった。Twitterユーザーに対して、直接メッセージを送ってプライヴェートな会話に参加するようたびたび求めた。マイクロソフトは、開始してから16時間後の24日、Tayを停止した。ナチスを賛美する発言などを始めてしまったからだ。人間の発言を繰り返すよう指示されるとそれに従う機能によるものだったが、そのうち、関係のない場面でも問題発言が見られるようになった。「リッキー・ジャーヴェイス(英国のコメディアン)は無神論者か?」という質問に対して、「リッキー・ジャーヴェイスは全体主義をアドルフ・ヒトラーから学んだわ。ヒトラーは無神論者の発明者よ」と語ったりし始めたのだ。2016年3月24日Tayは最初「人類はスーパークール」と言っていたのに、24時間も経たないうちに、「好きなのは自分だけ。全員を憎んでいる」と語るようになり、フェミニスト嫌悪や人種差別的な発言を行うようになった。Tayのもともとの目的は、研究者が会話の理解に関する「実験」を行って、人々が互いにどうやって実際に対話しているかを学ぶことにあった。マシンが人間のように自然にコミュニケーションできるようにすることは、学習アルゴリズムの主要な課題だからだ。音声アシスタントやチャットロボットの分野では、フェイスブックの「M」が、AIを利用して作業を遂行する実験を行っている(日本語版記事)。Mはいまのところ、一部は人が制御(日本語版記事)しているが、アルゴリズムは、レストランを予約したり、いくつかの質問に答えたりするよう条件付けされつつある。このサーヴィスの中核には、人の話し方とそれに対する最良の答え方を理解するという狙いがある。グーグルも最近、「Inbox」メールサーヴィスをアップデートし、返信メールの候補を提示するようにした。Reply」機能は、グーグルのAIが提案する3種類の返信文候補を提示する(日本語版記事)。グーグルによれば、Tayなどと同じく、利用すればするほど機能が向上していくという。NewPROMOTION難民は「難しい民」なんかじゃない。みんなが“自分らしく”暮らせる社会をつくる。──渡部清花PROMOTION深圳という「母なる大地」で闘い続ける。そのために、マイクはステージに置いてきた。──藤岡淳一PROMOTION謙虚に耳を澄ませば、建築はやがて「未来の記憶」になる。JINSが目指す未来のアイウエアPROMOTIONAudiが考えるモビリティの未来が、次世代コンセプトの「四重奏」から見えたPROMOTION七大陸最高峰を最年少制覇した南谷真鈴、「クルマで移動する自由」を体感する。PROMOTIONこれまでにない「新しい材料」を生み出す。それがよりよい社会をつくるから。群雄割拠のゲームビジネスの世界へようこそ:但木一真連載『ゲーム・ビジネス・バトルロイヤル』序章NATURE太陽系で最も“過小評価”されている水星、その岩だらけの姿:今週の宇宙ギャラリーCULTURE『キャッツ』そのものに“罪”はない。