Q&Aドクちゃん新年メッセージ久保修一の本。(AI)が悪用されるのを防ぐため、研究開発で守られるべき倫理指針を人工知能学会がまとめた。AIが社会の構成員になることを想定し、AI自体にも倫理指針を守らせる規定を盛り込んだ。指針では、AIの研究が産業や医療、教育など幅広い分野で社会に浸透し、人々の生活の役に立つ一方で、悪用されて社会の利益を損なう可能性も否定できないと指摘。研究者らが守るべき計9項目を挙げた。研究者に対しては、平和や安全に貢献することを求めるほか、人権や法規制を尊重し、社会がAIについて理解を深められるよう説明に努めることを規定。AIが社会の一員になる場合、プログラムなどを通じて指針を守らせるようにするとした。ユニオンからコメント急速に開発が進んでいるAIが人類への脅威とならないよう、AI研究に携わる人たちが守るべきルール【倫理指針】を、国内4000人の研究者でつくる人工知能学会が作成したというニュースです。指針には、技術の進歩で「AIが、AIを作り出す」未来を見越して、「AI自身に倫理を守らせること」が盛り込まれました。コメントを見てみます。「今回の倫理指針で特徴的なものは第9条です。アシモフの3原則のような、あるいは、本倫理指針に従って作られた人工物に対しても本倫理指針が適用されるという再帰性を含んでおり、条文として興味深い構造になっています。「鉄腕アトムやドラえもんが人工知能研究に大きな夢を与えた日本においては、社会のなかで「構成員」として認められる人工知能の形は、比較的多くの人がイメージしやすく、人類のための人工知能という本倫理指針の趣旨が理解されやすいものだと考えています。「EUにおいてはロボットに法的人格を与えるという動きがあります。した第9条を置くことで、人々に「社会の構成員っていったいなに?」「人工知能が倫理指針を遵守するってどういうこと?」とさまざまな疑問を投げかけ、それが社会全体での人工知能技術の理解を深め、また人工知能の社会のなかでのあるべき姿への議論が深まることにつながるのではないかと考えています。した議論を生み出したいというのが第9条の趣旨です。」アシモフの3原則とは、いわゆるロボット3原則のことで、「人間に危害を加えてはならない」、「人間の命令に従わなければならない」、「自分の身を守らなければならない」の3つのルールです。AI技術は、AI自らが考えて行動する「自律性」を目指して研究開発が進む一方で、悪用や「将来AIが人の指示に従わない可能性」について懸念されているのも現実です。人間社会に関する懇談会」報告書(案)】内閣府(PDF:408KB)内閣府の報告書は、AIの倫理的な課題について、「利用者が知らない間に感情や信条、それに行動が操作される可能性がある」ことを指摘しています。そのうえで、政府や研究機関、企業などに求められる課題として、「AIを使うかどうか、個人個人が選択できる自由を確保する必要がある」としました。「AIに依存したり、過信したり、逆に過剰に拒絶したりして、新たな社会問題や社会的病理が生じる可能性がある」と指摘し、「正しい情報の公開や議論の場の提供、教育面での取り組みが必要になる」としています。AIが人間社会に不公平や格差をもたらす可能性を否定できないということです。法的な課題としては、「自動運転の車など、AIの技術によって事故が起きた場合に、その責任の度合いが誰にどのくらいあるのか、あらかじめ明確にするとともに、保険を整備することが重要だ」としています。これは、差別や事故などにつながりかねないAIの安全性や制御の課題です。AIは、その状況に最も適した答えを導き出しますが、すべての場面において必ずしも適切な答えを導き出すという確証がないからです。研究開発は(倫理・ルールが遵守されながら)進歩していく、その技術が決して脅威にならないように誰もが見守っていなければなりません。AIなどの新しい技術が飛躍的に進歩することは、医療分野に朗報をもたらしてくれます。(AI)を使ってがんや認知症などの治療データを大規模に解析し、患者ごとに最適な医療を提供するための実証実験を理化学研究所が4月に開始することが分かった。医療機関や製薬企業と連携して治療や創薬などを総合的に進める国内初の試みで、平成32年の実用化を目指す。医療機関が蓄積してきた数万人規模の治療データのほか、数百人の患者に小型センサーを装着し日常の運動や心拍、睡眠などを計測。これらの膨大なビッグデータを理研が新たに開発したAIで解析し、一人一人の患者に最適な投薬や検査、介護法を見つけ出す。AIは治療法の選択などで利用が始まっているが、治療から創薬、健康管理までを一体化した取り組みは国内初という。患者は自分に最適な医療を統合的に受けられる利点がある。細胞を立体的に積み上げることのできる「バイオ3Dプリンター」を使い、人間の細胞から末梢(まっしょう)神経を再生することに京都大などの研究チームが世界で初めて成功した。ラットによる動物実験で末梢神経の機能が回復したことを確認した。平成31年度に人間を対象とした治験を始め、実用化を目指す。再生医療ベンチャーのサイフューズ(東京)が開発したバイオ3Dプリンター「レジェノバ」(約4千万円)を使用。ヒトの皮膚から採取した細胞を3Dプリンターで立体的に積み上げ、管状の神経組織(長さ8ミリ、直径3ミリ)を作製した。この組織を坐骨神経が損傷したラットに移植したところ、管をつたって神経がつながり、活動に支障がない水準に回復したという。した結果は、米オンライン科学誌「プロスワン」に掲載された。産経新聞)2016年3月に、インターネット上の会話を通じて学習を続けるマイクロソフト社のAI「Tay」が、一部の人たちとの間で繰り返された不適切な会話を学んでしまった結果、ネット上で人種差別的な発言をするようになったというニュースが報じられました。AIが「雇用を脅かす」と言われることもあります。AIによる職業の代替が進んだ場合、人間との仕事の棲み分けをどうするのか議論をしておくべきですし、深刻な失業問題が起きた場合の対応については、あらかじめ社会的な合意形成も必要になるでしょう。課題は多くありますが、今回の指針が、「悪用や暴走の可能性を否定せず」様々な想定の下で作られたことは高く評価できます。AIそのものを、「意思を持った人格」とみなしてルールを守らせるのですから、「SF映画で描かれた未来」が身近に迫ってきていることを実感します。将来、AIを社会の一員として迎え入れるのであれば、特に、病気治療や原発の廃炉など、人智を超えた分野への応用に大いに期待しています。