実際人間だって、役に立つか役に立たないか、判断できないかもしれないよね。それはなんか、すごく漠然としたところに人間がいて、AIはそこにとどまり続けることができないかもしれない。矛盾というものを抱えながら、AIは生きていけないかもしれない。働き続けることができないかもしれない。人間の好き嫌いは価値観に左右される山極:我々はどこかで判断を、常に迫られているわけですよ。その判断がいいかどうかというのは、結局自分だけの判断ではできないわけですね。誰かがまた、ぜんぜん別々の判断を下すかもしれない。時代が変われば、それが変わるかもしれない。AIの場合には、過去のデータをもとにしてしかその判断はできないはずであって。これはスポーツ選手がよくやることだけど、99回失敗しても、その失敗をもとに諦めることはしなくて、1パーセントの望みにかけてやったら成功したことがあって。いうふうに、人間というのは未来を目指してきたわけですよね。それはその場で、そのデータが自分に役に立つか役に立たないかということを、データ上で判断したわけではなくて。人間は、その失敗がきっと1パーセントをかけるに値すると、バカげた判断をしたわけですよね。その結果、成功が手に入ったかもしれない。人間の、その想像力だとか発明だとかいうのは、みんなそうやって乗り越えてきたと思うんですよね。そこがたぶん、AIが苦手な部分ではないだろうかと思います。君の意見をちょっと普遍して私なりに解釈してみると、そういうことかもしれないなと思いました。参加者9:東京大学3年の○○と申します。先ほど経済のお話があって少し思いついたんですけれども。なにかに価値を見出すということは、やっぱり人間にしかできないのかなと思っていまして。自分はあのアーティストが好きだとか、君のこういうところを魅力だと思うというところは、感情に繋がるのかもしれないですけども、やっぱり機械にはできないところかなと思いました。山極:ありがとうございます。実は人間の好き嫌いって、価値観に左右されるんだけれど。価値を常に裏切っていく性質を持っているんですよね。多様性というのは生まれるんですけども。私が本当に、おっしゃるように心配しているのは、AIを使っていくと価値基準がフラットになっていくんじゃないかってことですね。今世間ではエビデンスベースの規格ということがとやかく言われているけれども、これはAIに頼れば、エビデンスはすぐデータ化して見つけられるわけで。そのエビデンスに則って決定をしていけば、規格の方向性とか規格の質というのは、どんどん決まったものになっていく。山極:そこに、人間の場合には好き嫌い、好みが入ることによって、なにか違う価値観がそこで生まれるんだと思うんですよ。「痘痕も靨(あばたもえくぼ)」というように、100人100様で好みって違うわけですよね。ほかの人は「え、こんな人と?」という人を好きになる人がいたりするわけですね。それは人間だけじゃなくて、物にしたって「こんな汚い貝殻を集めてどうするの?」というのを、一生懸命集めている人もいるし。こわいヘビを、こう手にくねらせながら悦に入ってる人もいるし。それが人間の好みというものがわからないところなんですよね。それは利害関係だとか、その人の役に立つようなことというのを、エビデンス化してどんどん方向性を決めていけば、そういう好みというのは平均化していくかもしれない。私が今恐れているのは、脳の外部化です。脳の外部化というのが、どんどん技術によって進んでいって、多様性をもたらしていた好みまでも外部のシステムに依存するようになりはしないか、ということなんです。今Amazonでよく起こっていることは、本を注文すると、その本を素早く送ってくれるのと同時に、「あなたが次に読む本はこうですよ」って。これが情報であるならまだいい。情報プラス好みというのが、そこに反映されているわけですよ。好みの方向づけがそこでされている。我々はだんだん考えるのをやめてしまって、その外部化された知性が望むように、我々の好みを変更させるということが起こっているんではないか、ということなんです。人間というのは、個人個人違うようにできていて、個人個人は自分の遺伝的形質だとか、あるいは生後経験した経験、経験した知識。感性によって、好みはみんな違うわけですね。それを個人個人が自分で課題を立て、そこに答えを与えるように、自分の頭のなかで回転し続けている。ほかの人に右へならえではなくて、常に私とはなにか、私の好みはこれだ、みたいなことを常に常に、頭のなかで渦巻かせながら判断しているわけですよ。それが、だんだんと外部化されるようになっていくんではないか、ということなんですね。それは別に、人間が変わったわけではない。環境が変わったんです。我々は科学技術というものを発明し、それを発展させ、その科学技術にさまざまな自分たちの暮らしを依存するようになっています。AIができないひらめきというものを大事にしていく山極:移動するのも、最近あんまり歩かなくて済むし。それから、食べ物でも自分でつくらなくて済むし。その自分の身体的な欲求に合うような物がつくり出され、その外部的な情報と実態によって、人間の体の好みもどんどん変わってきているわけですね。今我々が考えなくちゃいけないことは、そういった、環境がどんどん変わりつつあるということと同時に、我々が考えるという知性、そういうものも外部化していく恐れがありはしないかということなんです。AIは、それを人間に代替してできるわけではありません。彼らは答えを出します。その答えを、さっきおっしゃったように、人間が判断して決めていく時代はいいでしょう。人間が考えることをやめてしまったら、外部化した知性によって、知能によってそれを方向づけられ、それを与えられ、それをただ選ぶだけの存在になっていきはしないだろうか。ならないと思いますけどね。そのために実は私が言いたいのは、生の声で会話をしながら、AIができないひらめきというものを我々は大事にしながら、そこに自分の個性、自分の好みというものを投射して、相手とのあいだで楽しむという時間をつくるべきだ。