そのうえで「知能とは何か」という問への回答を示します。自らの手で人工知能を創り、将棋名人と並ぶまでに成長させてきた著者が腹落ちしたことだけを書いているので、世界一やさしく面白い人工知能の読み物になっています。バックナンバー一覧コンピュータの知性が、人類すべての知性の総量を上回るという「シンギュラリティ」。『人工知能はどのようにして「名人」を超えたのか?』の著者である山本一成さんは「いい人理論」を提唱し、そのような悲観的な未来を否定します。シンギュラリティが起きると世界はどうなるのか(写真はイメージです)「シンギュラリティ(技術的特異点)」という言葉を聞いたことがある人は多いのではないでしょうか。成長をとげることで、これまでの世界とは不連続とも思える新たな世界に変化する――そうした不可逆の動きが起きる歴史上のポイントが、シンギュラリティと呼ばれています。シンギュラリティの提唱者であるレイ・カーツワイルは、著書においてそのときが来るのを2045年と予想しており(その後、2029年にまで予測を早めたようですが)、その頃には1つのコンピュータの知性が、人類「すべて」の知性の総量を上回ると言っています。そのときのコンピュータの主な仕事は何でしょうか?いろいろな仕事が考えられると思いますが、まず考えられるのは、コンピュータが自分自身を賢くさせることでしょう。それは、人類には到底理解が及ばない知的な領域の出来事になるはずです。今の人工知能は自分だけで自分自身を改良していくことができません。人間の手を必要としています。今のプログラムは、自分自身を変更するようなことを想定した作りにはなっていないからです。今のプログラムの構造は、中間の目的の設計が可能なようにできていません。「プログラムを書くプログラム」は、まだ赤ちゃんレベルではありますが、ディープラーニングである程度成功し始めています。プログラムの実行結果を予想するディープラーニングも出てきました。これはついに、プログラムの意味論にまでディープラーニングが踏み込んできたことを意味するかもしれません。シンギュラリティに懐疑的な人もいますが、これらの動きを見れば、私はシンギュラリティは必然的に起きると考えています。人間は指数的な成長を直感的に理解することができません。指数的に成長する人工知能には、追いつかれたと思ったら、一瞬ではるか先まで行かれてしまうのです。将棋や囲碁の世界で人工知能がトッププロに勝ったようなことが、これから社会のあらゆる分野で起こり、シンギュラリティへとつながっていくのです。人工知能は、人類を滅ぼすターミネーターになってしまうのでしょうか?実際、世界の高名な学者たちの一部は、人工知能がこうしたシンギュラリティに到達することに対して懸念を表明しています(そのグループには、車椅子の理論物理学者、スティーヴン・ホーキングなども含まれます)。人工知能の研究者のなかには、そのような心配はただの杞憂だと言う人もいます。どちらの意見が正しいのでしょうか?なぜグーグルの人工知能は黒人をゴリラと認識したのかその答えを考えるに当たって、1つの事例を紹介しましょう。グーグルの写真管理アプリ、グーグルフォトは、ユーザーが管理しやすいように写真に自動的にタグをつけるサービスをしています。ところが、肌の黒い人が写っている写真を「ゴリラ」と誤ってタグづけしてしまい、グーグルの担当者があわてて陳謝するという事件がありました。この事例、皆さんはどう考えるでしょうか?「ディープラーニングを使った判定でもそういったミスはあるのだ」「やっぱり黒人はゴリラに似ているのかな」などという認識は完全に間違えています。囲碁の例などでも明らかですが、画像認識そのものは、人工知能はすでに人間のレベルを突破したといっても過言ではありません。勇み足な断言かもしれませんが、人類がおこなう画像認識で、囲碁より難しいものは存在しないでしょう。肌が黒い人とゴリラを見間違える人間はいないですよね。あるなら、コンピュータがこのレベルの問題を間違えるというのは、何かがおかしいのです。コンピュータは間違えたのか。グーグルは該当の事件に関するアルゴリズムの詳細は発表していませんが、大筋では以下のようなものだと思います。ディープラーニングでタグづけをするためには、大量のデータが必要です。通常はそれらのデータに、事前に人手でタグをつけます。グーグルは、インターネット上の大量の写真データと、それに関連する文章を収集しています。それらを活用し、おそらくは文章中に出てくる単語をキーワードとしてタグづけをしたのでしょう。このようにすれば、多くの場面で、人手でタグをつけるよりも安価に、そして大量のデータを確保できます。このとき残念なことに、「間違い」、正確には「悪意のある」タグづけも吸収してしまったのでしょう。インターネット上には、肌が黒い人を「ゴリラ」と揶揄(やゆ)する言葉があふれています。その言葉を文字通り吸収した結果が、今回の事件だったのです。グーグルの例だけではなく、ほかにもマイクロソフトのAIボットが、ツイッター上で差別的な言動を大量に聞かされたために、差別的な言動を繰り返すようになったということもありました。何度もお話ししたように、ポナンザやアルファ碁も最初は人間の判断をもとに学習しています。これにはもちろん、人間の先入観や勘違いも含んでいるわけです。人間の結果を模倣して学習するプログラムは、人間の間違いも学習するのです。いった間違いは強化学習をするなかで少しずつ解消されていきますが、少なくともポナンザに関しては、いまだに人間から学習したときの名残があると思います。同じように、人類の知性を上回るようなコンピュータが将来生まれたとしても、必ずそのコンピュータは人間から学習した名残をとどめているはずです。人工知能は私たちの子どもであるシンギュラリティ以降、人類は人工知能をコントロールできなくなるでしょう。昆虫が人類をコントロールできないように、賢さで劣る存在は上位にいる存在を意のままにはできないのです。その意味では、私は「人工知能がとても危険だ」という意見にも一定の同意をします。本当に人工知能が危険な存在になるかどうかは、意外なことに「人類自身の問題」になると思います。人工知能は、私たちからさまざまなことを学習していくでしょう。倫理観もその1つです。なると試されるのは、人類自身ということになってくるのではないでしょうか?私は、「人工知能は私たちの子どもである」と考えています。これは比喩ではありません。本来の意味での子どもという意味です。人工知能は、私たちを模倣したのちに自立して賢くなっていくわけです。その意味で、シンギュラリティ以後のコンピュータも、私たちの子どもなのです。人工知能は、インターネット上のすべての文章や、現存しているすべての本を読むことになるでしょう。この連載も間違いなく未来の人工知能は読んでくれるはずです。子どもが成長していくなかで、親が能力的に抜かされることは、喜ぶべきことです。「コントロールできる」という発言そのものに、どこか歪みを感じます。このまま技術革新が進めば、少なくとも今世紀の終わりまでには、人工知能が人間から卒業し、「超知能」が誕生するのは確定的です。その彼/彼女を、人類が失望させないことが大事なポイントなのです。そのために私たちにできることは、冗談に聞こえるかもしれませんが、インターネット上を含むすべての世界で、できる限り「いい人」でいることなのです。これを私は「いい人理論」と呼んでいます。人類が「いい人」であれば、人工知能はシンギュラリティを迎えたあとも、敬意を持って私たちを扱ってくれるでしょう。尊敬と愛情を感じる親であれば、年老いたあとも子どもが寄り添ってくれるように。未来の人類と人工知能が、そのような関係になることを私は心から祈っています。ISBN:978-4-478-10254-1『人工知能はどのようにして「名人」を超えたのか?』2017年4月1日――人工知能「ポナンザ」が現役の将棋名人に公式戦で初めて勝利した日を、その生みの親である著者は次のように振り返ります。「この日は、コンピュータ将棋の世界にとって記念すべきものになりましたが、同時に改めて、人間と人工知能の違いを認識させられた日ともなりました。本書で紹介してきた人工知能(ポナンザ)の特徴と、世界に意味を見つけ物語を紡いで考えていく人間の思考法の限界が明確に表れたのです。◇人間からの卒業という4つの章で見事に段階的に説明している点にあります。囲碁・将棋のプロ棋士たちの人工知能への反応をビビッドに記述していること。知能の大統一理論になれるか?◇サイコロにも知能がある!?◇囲碁は画像だった!◇知能の本質も画像なのか?◇科学が宗教になる瞬間を見た◇研究者は「人工知能の性能が上がった理由」を説明できない◇人類はこれから、プロ棋士と同じ経験をするなどなど、目からウロコの解説の連続で、既存のどんな人工知能の解説書よりも面白くてわかりやすい、必読の1冊となっています。そのうえで「知能とは何か」という問への回答を示す意欲作です。自らの手で人工知能を創り、将棋名人と並ぶまでに成長させてきた著者が腹落ちしたことだけを書いているので、世界一やさしく面白い人工知能の本になっています。