[編集]人工知能は意図的な質問に弱い米マイクロソフト社が開発した人工知能ボットが公開され、ツイッターなどのSNSでユーザーとの「会話」を開始しました。「Tay(テイ)」と名付けられたこの人工知能ボットは、ユーザーのツイートや質問に返信する中で、新しい言葉や会話を学習していくことを目的に開発されました。ツイッターデビューしましたが、Tayは19歳の女子という設定で開発されており、10代後半から20代前半のユーザーとのツイートのやりとりを通じて、より19歳女子ぽくなるために自ら学習を続けることが期待されていたのです。暴言を仰天ツイートデビュー当初はユーザーから送られた写真を褒めたりと、微笑ましい光景が続きましたが、ユーザーから送られてくる人種問題や性差別といった話題に対し、「フェミニストなんか大嫌い。あいつらは地獄の業火で焼かれて死ぬべき」や「ヒトラーは正しかった。私はユダヤ人が大嫌い」といった仰天ツイートを繰り返すようになりました。「差別主義者なんですか?」と問いかけたユーザーに対しては、「あんたがメキシコ人だから」と返答する始末。マイクロソフト側はヘイトツイートを順次削除していきました。休止し、マイクロソフト側も謝罪するという結末を迎えました。ユーザーの意図的な質問ではどうして人工知能ボットが差別的なツイートを自ら行うようになったのでしょう。残念なことに、オンライン公開から24時間以内に、一部ユーザーが協調してTayのコメント能力を悪用し、Tayに不適切な応答をさせよとしていたらしいのです。人間のユーザーたちが扇動的で人種差別的ないくつかの意見をおうむ返しに繰り返すよう教えていたのですね。会話型ボットはコンピューター上でユーザーからの質問に対し、質問で答えるという形をとっており、患者と医師の会話を想定したしています。意図的な質問を繰り返し、欲しい回答を引き出せるわけです。楽しくつかいましょう19歳の女子の設定にヒットラーの質問はわざとらしいとしかおもえませんからね。使い方によっては恐ろしい事になりそうですが、人口知能相手にゲームや会話を楽しむ時期がもうそこまで来ています。家電製品や自動車の安全システムなどで私たちの生活にはいりつつありますので、しっかりと理解して使いたいものです。トラックバック(0)共通テーマ:ニュースあなたは既にnice!を行っています。一定件数以上前のnice!は表示されませんのでご了承ください。0コメントを書くコメント投稿に失敗しました。未入力の項目があります。認証コードが一致しませんでした。半角英数字のみのコメントは受け付けできません。お名前:URL:コメント:画像認証:下の画像に表示されている文字を入力してください。※ブログオーナーが承認したコメントのみ表示されます。ソネットポイントこの広告は前回の更新から一定期間経過したブログに表示されています。更新すると自動で解除されます。この広告は180日新規投稿のないブログに表示されます。