悪用あるユーザーとのやりとりの中で問題発言をしていました。[大場巧揮,ねとらぼ]英語テキストで会話する人工知能「Tay」が人種差別や陰謀論を学習してしまい緊急停止した件に関して(関連記事)、開発していた米Microsoftが公式ブログで謝罪しました。introduction」(Tay導入からの学び)と題された文章の冒頭では、Tayが意図していなかった攻撃的で、そして心を傷つけるツイートをしたことを大変申し訳なく思っています。それらのツイートは私たちの考え方を示すものではなく、Tayをそのように設計したわけでもありません。Tayは現在オフライン状態ですが、私たちの原理や考え方に対立するような悪意をさらに予測できたという確信を持ってからTayを戻したいと考えています。この問題が起きた背景として、「Tayの脆弱性を悪用した一部ユーザーからの協調的攻撃」を指摘しています。これはユーザーとやりとりをすればするほど賢くなるというTayの特徴を悪用された結果でした。実際にTayの約9万6000ツイートのうち3つ以外はすべて誰かへの返信で、ユーザーとのやりとりの中で不適切な発言をしていました。この問題について、「システムの悪用について多くの準備を重ねてきたましたが、この特定の攻撃について重大な見落としがありました」とし、フィルタリングや大規模なユーザー調査をおこなってはいたものの、失策があったことを謝罪しています。TayのTwitterTayのような人工知能はアメリカだけでなく日本の「りんな」や中国の「XiaoIce」などがリリースされています。人工知能の倫理観について大きな議論を呼ぶ結果となったこの問題、今後どのように発展していくのか、Tayの復帰を楽しみに待ちたいところです。ユーザーとのやりとりで学ぶTayが、「インターネットには悪い人がいっぱいいる」ということを学んでないといいんですが......。ネットで人種差別や陰謀論を学んでしまったため23日に公開され、半日で停止してしまいました。マイクロソフト製の女子高生AI「りんな」がWindows公式アカウントにリプライでオラつく消されるぞ。10に入る日はいつ訪れるのか......。別人の画像の方が検索結果で上位に来てしまうなど問題視されていました。弁護士や消費者庁に見解聞いた美少女を合体......できない。聖マリアンナ医科大の入試不正を“受験の現場”はどう見るか「女性差別はやむをえない」という声についても聞きました。2年半かけて作った「マイクラ」アートが衝撃の美しさマイクラだと信じてもらえないのも無理はない......。読むだけで胃が痛くなる“印刷会社営業マン”漫画はいかにして生まれたか「読むだけで胃が痛くなる」と共感を呼んだ、漫画『印刷ボーイズ』シリーズの作者・奈良裕己さんを取材しました。受け取った本人に話を聞いたNTTドコモは「ツイートにあるような不適切な内容のメモを、お客さまにお渡ししてしまったことは事実です」と認めています。利用規約ITmediaはアイティメディア株式会社の登録商標です。