朝日新聞社の言論サイトメインメニューをとばして、このページの本文エリアへさん購読のご案内ログインログアウト朝日新聞デジタル朝日新聞デジタル有料会員(フルプラン)の方なら、ログインするだけで論座の全コンテンツをお楽しみ頂けます。2017年05月18日テクノロジー|情報ソーシャルリンクをとばして、このページの本文エリアへTweetlist今、人工知能が非常に注目されています。Learning)というやり方が圧倒的な精度を達成し、3回目のブームに火がつきました。ブームを受けて、人工知能がヒトという種を超える可能性やその時期についての議論も盛り上がっています。現在の人工知能は将棋や囲碁、自動車の運転といった特定の仕事を人間より上手くこなすようになりつつあります。実のところ、その仕事しか出来ない極端な専門バカです。Intelligence)を作り上げようという研究も別途行われています。Singularity)と言い、そんな日は来るのか?いつ来るのか?我々はどう備えるべきか?が議論を呼んでいます。名付け親のレイ・カーツワイルは、議論を提起した2005年当初、それは2045年であると予測し、2017年3月の講演では予測を2029年に早めたそうです。そんな日は来ないという論もありますが、以下では、いつか来かねないものとして話を進めます。「まずいことはやらない」を達成するには一定の汎用人工知能が出来たとしましょう。人間や他のコンピュータとやりとりするための通信機能なり対話機能を備え、何かしらの体も持つかもしれません。私はその人工知能さんに頼みます。「私の代わりにこの原稿を書いておいてくれないか」...勝手にいろいろと調べ物をして、原稿を仕上げてくれたとします。人工知能も、人間と同様、目標達成のためなら何をしてもいいというわけではありません。原稿執筆のための調査に私の全財産を遣ってきたとか、誰かを殴ってきた、ということでは困ります。やって欲しくないことをさせないためには、当初は、その能力を持たせなければ済みます。銀行口座にアクセスできなければお金は遣えませんし、体なり腕なりがなければ人を殴ることは出来ないでしょう。それでは、いつまで経っても人工知能さんの出来ることが広がりません。腕がなければ人は殴れませんが、同時に、人間の道具でお茶をいれることも出来ないでしょう。「能力は持ちつつ、でも、まずいことはやらない」という目標を達成するためには、人工知能さんにも私や世間の常識、つまり行動規範を解ってもらう必要がありそうです。行動規範のすべてを人手で教えてあげるのは無理です。すると、人工知能さん自身に学んでもらう必要があります。したら、お金は大切に遣うべきだとか、人は殴ってはいけない、といった行動規範を身に付けてもらえるでしょうか?行動規範の土台となる「快・不快構造」ここで我々自身を振り返ってみます。自分にとって邪魔な相手と会ったとします。挨拶もせずに、殴りかかるでしょうか。殴った場合には、その瞬間は快さを感じるかもしれませんが、その後に相手からの反撃や社会的な制裁といった不快な状態がやってくることが容易に予想できます。そんないろいろを考えて、殴るのは止める、というわけです。「いや私にはもっと高尚な理由がある」という方もいらっしゃるでしょうが、その理由に準ずることが快であったり違反することが不快だから殴らない、という点では同じことです。我々は、快・不快やその未来予測に基づいて行動を決めて、生きています。何に快さを感じ、何を不快に感じるか、快・不快構造とでも呼ぶべきものがその人の行動を決めています。グーグルの関連会社が公開した自動運転車=2017年1月、米ミシガン州デトロイト汎用人工知能に私や世間の行動規範を身に付けてもらうために、快・不快構造を持たせるという方法がありそうです。行動規範を身に付けるということは、人間と同様の快・不快構造を獲得することに当たります。何の快・不快構造も与えずにゼロから学習させる方法も、ヒトの本能に当たる快・不快構造くらいは与えてスタートさせる方法もあるかもしれません。いずれにせよ、人を殴らない、といった行動規範を身に付けさせるには、どういう快・不快構造を与え、それを元にどう学習させていけばいいのか、という研究が要りそうです。対話機能なり身体なりがないと、それらをうまく使った学習が出来ませんので、仮想世界を用意してそこで学ばせたり、進みに応じて能力を与えてたりしていくことになるでしょう。汎用人工知能が、より知的な人工知能を作る汎用人工知能について警告する人もいます。実は私も同じ考えです。いえ、氏が主張したような研究の放棄(relinquishment)は実効性が怪しいので、人類を脅かさないよう上手に発展させる方法なり研究プロセスなりの方に頭を使いたいものです。技術的特異点への道筋として、汎用人工知能が自身より知的な人工知能を作れるようになって爆発的に発展する、というシナリオが有力視されています。このシナリオに潜在的な危険があると私は考えています。・・・ログインして読む(残り:約1217文字/本文:約3462文字)全ジャンルパックなら本の記事が読み放題。全ジャンルパックを購読する科学・環境ジャンルを購読する論座ではこんな記事も人気です。朝日新聞デジタル(フルプラン)の有料購読者の方なら、ログインするだけで論座の全コンテンツをお楽しみ頂けます。1973年神奈川県生まれ。経て、2008年12月より現職。私大、国の研究所、スタートアップを経て、国立大学。プロジェクトマネージャを兼任。魔法のようなソフトウェア、分散システムが好き。日本ラグビーの未来を語ろう2019年12月26日ページトップへ戻る朝日新聞デジタルの関連サイト有料会員(フルプラン)は追加料金なしでご利用可能。著作権お問い合わせ掲載の記事・写真の無断転載を禁じます。すべての内容は日本の著作権法並びに国際条約により保護されています。permission.。