これまでのお話しからすると、真に自律的な人工知能は可能かというような哲学的な話以前に、人間と協働する人工知能という、より現実的な課題設定の中でも、誤りであったり、テロであったり、いろいろな現実的な問題がたくさんあって、ある意味、そちらのほうが緊急性が高いということですね。僕はそう思うんですね。僕は哲学的な問題を無視しているわけでは全然ありません。僕自身は、そういう問題を考えるのは好きなんです。今、思考する人間というのは一体何なのか、ヒューマニズムって一体何なのかという昔ながらの問題が、AIというテーマを通じてまた浮かび上がってきたんだと思いますね。自律性というのは根本的には何なのか。JST(科学技術振興機構)のRISTEXでも、この問いかけが話題になっているわけです。我々が普通、あの人は自律的だとか、あの人はちょっと自律性がないとかと言うときには、いわゆる社会的自律性の話をしているんです。我々は社会的制約のもとで生きているわけですけど、そこで自分の自由意思はどこまで認められるのかとか、自由意思が認められなかったら責任をとれるのかとか、そういう話じゃないですか。普通、自律性がある/ないというのは、そういう社会的な次元の話なんですね。僕自身は、社会的な次元の前のもっと根本的な問題として、生物的自律性というものを考えるべきだという立場なんですね。これは、僕の研究している基礎情報学が、マトゥラーナとかバレラといった生命哲学者たちが考察した生物の定義をベースにしているからなんです。どんな下等な生物でも自分で自分のルールをつくるので、生物の行動ルールは外部から見て不可知なわけです。それに対してコンピュータの作動というのは、複雑でわかりにくいという点はあるけれども、原理的にはどう動くかわかるわけですね。機械は他律システムです。その違いをきちっと踏まえることが大事だと思います。社会的自律性から出発すると、我々だって自律的に行動してないじゃないかということにもなる。それは、社会的制約のもとで生きていく方便にすぎません。関連して、ここで僕は、哲学が人間社会にどういうふうに影響を与えるのかということを考えたくなる。哲学を考えること、勉強することによって、人間の自由を束縛し人間性を抑圧する社会メカニズムを相対化し、批判していくことができるんじゃないか。これは哲学の大きな役割の一つだと思っているわけです。AI時代の新たな考え方として、人間は本来データの集まりであるとか、これからはスコアリング社会になるとか、言われています。歴史家のユヴァル・ノア・ハラリなんかもそういう未来予測をしている。これからはAIがどんどん判断するようになるんですけど、そうなったときに、ハイデガーなんかの実存哲学が考えた身体性や、生きる情動というものが抑圧されてしまうということは、やはり考えなきゃいけないんじゃないか。今、インターネット時代になって、いわゆるリベラリズムが退潮して、リバタリアニズムが結構伸びている。すると、短期的な利益ばかりが追求されていく。そこにAIロボットみたいなのが出てくる。すると、新しい意味での支配、機械による独裁支配みたいなことになってくる。いう事態を防ぐために、自律性について理論的に議論しなきゃいけないというのが僕の考えなんですね。今、鬱病やひきこもりがすごく増えているんですよ。人間はデータなんだ、おまえはスコアリングによるとこの程度なんだと数値化することによって、人間の生きていく力というか、エネルギーというか、そういう部分が抑圧されているのではないか。僕から見ると、それがひきこもりとか、鬱病とか、自信喪失なんかを引き起こしているんじゃないかという気がするんですね。生命的衝動や欲求がAI社会でどうなるのかという問題、AIの関係者はこれを考えなきゃいけない。AIと哲学をクロスさせるのは重要だと思う。それで、大事なことを言わせてください。一般的な分類だと、そういう人間の生の衝動みたいなものを扱ってきたのは大陸系の哲学であって、英米系の分析哲学というのは、もう少し理性的なものを扱ったと整理されています。僕は以前からずっと考えているんですが、分析哲学というのは一見確かに冷静で、いかにも理性的に論理を突き詰めているんだけど、その裏にはひそかな情動があると思うんですね。具体的に言うと、ラッセルとかホワイトヘッドという人は、両方ともなかなか情熱的な人ですよ。ラッセルは平和運動を叫んでいたし、ホワイトヘッドも有機体の生命活動に取り組んだ。あと、ウィトゲンシュタインなんてものすごく情熱的な人ですね。彼らの分析哲学というのは、表面上は何か難しい数理記号で書いているけど、その根本に、真理とは何なのか、本当に正しいことって何なんだという問題関心がある。すごく情熱的で熱い欲求をもつ人たちが、逆説的にああいうものを考えたんじゃないかと思うんです。僕は最近、『AI言論』(講談社メチエ選書、2018年)という本を書きました。そこで、カンタン・メイヤスーという人の、新実在論の議論を扱っています。彼はフランス人ですが、新実在論の哲学者として、ドイツ人のマルクス・ガブリエルも面白い。新実在論というのはつまり、構造主義とかポスト構造主義とかいった、一種の相対主義にたいする批判的議論ですね。相対主義がすごく浅く解釈されちゃうと、これもよし、あれもよしという考え方になっちゃう。哲学ってやはりそうじゃないんじゃないか、もっと本質的なところを体張って言うべきなんじゃないか、彼らはそういうことを言っている。メイヤスーの議論から考えたら、AIってどうなるのかな、って書いてみたんですね。いう時代に我々は立っているんだと思う。哲学をやっている人たちは、AIは世の中をこういうふうに変えていくんだという点を、根本的なところまで掘り下げてほしい。ドレイファスの批判は知っているけどちょっと古いね、なんて好い加減な話でお茶を濁すことはやめてほしい。体を張って、問題があるんだったら、そこは違うんだというところを根本的に、正面から断定する勇気も大事なんじゃないかと思います。西垣先生のお仕事で非常に興味深いのは、哲学者、あるいは人文系の研究者でAI論をやっている人よりもよりも、西垣先生はかなり思想的問題に踏み込んでいます。あるという話を書かれています。全員とは言いませんけど、AI論を語る哲学者たちの中には、俺は古い哲学だけじゃなくて、最新の科学についてもしゃべれるんだ、現代の先端技術についてもそれなりに勉強しているんだ、と自慢したがる人も少なくありません。いう人は、今のAIブームに対して割とポジティブです。彼らの浅い議論には説得力がありませんね。いう意味では、僕はマルクス・ガブリエルが割と好きなんですよ。科学主義というものはある面では正しいけれども絶対ではない、もっと違う見方もできる、ってガブリエルは言うじゃないですか。別の見方もできるんだと主張することによって、いわゆるAI論における、人間イコールデータみたいな考え方は間違っている、という批判がうまれる。いう批判精神は哲学者にとって大事じゃないんですか。僕のベースは工学で、自分は哲学者だなんて全然思っていません。哲学からの批判はちゃんと受けとめなきゃいけない。AI研究をする工学者は批判を正面から受けとめていないように思われるわけです。ちなみに、この間テレビを見たら、AIソフトが将棋を指すとき、ロボットアームが駒を動かしているんですよ。人をたぶらかすようなあんな遊びをやって、何を喜んでいるんだと腹が立った。将棋で今まで思いつかなかった手をAIが考えるということはもちろんあるし、いろいろ工夫もされているのでしょう。将棋の世界でAIが流行るのは別にいいんだけど、単刀直入にいって、将棋AIソフトはただのトレーニングマシンにすぎない。コンピュータよりはるかに計算能力の低い人間の棋士が、なぜ一挙にいい手を思いつくのかという探究は、AIの将棋ソフトの開発とは全然別の問題だ、というのが僕の意見です。世間が喜ぶことを言ってうまく研究費を稼ぎたいというのは、学者としては二流だと思います。学者は自分の信念を貫くことに価値がある。分析哲学をつくったラッセルにしろ、ホワイトヘッドにしろ、ウィドゲンシュタインにしろ、みんなそういう人たちじゃないですか。僕はそういう志が好きなんですよ。いう意味では、AIが人間よりも優秀になって人類を滅ぼしに来るみたいな話に乗ってしまうのは、哲学者の仕事としては面白くないということになるわけですね。ええ、僕からするとあんまり魅力ないですね。最後に、人工知能に関する哲学的な問題を考える上で重要だと思われる文献を紹介していただけますでしょうか。1冊目は、先ほど言いました、テリー・ウィノグラードとフェルナンド・フローレスが書いた『コンピュータと認知を理解する』です。平賀譲訳で産業図書から1986年に出版された本ですね。これは僕が基礎情報学を考案するきっかけの一つとなった名著です。2017年)をあげておきます。この人は、オックスフォードのフェローをやっている分析哲学者です。一般にはそれほど知られていませんが、AIの専門家からはフロリディの哲学的な議論がかなり評価されているんですね。僕は、カーツワイルとかボストロムなんかのトランス・ヒューマニズムはSFチックであまり相手にしたくないけれど、『第四の革命』はそれなりに読むに値する。いえ僕は、フロリディの議論を理論的に強く批判したい。オックスフォードの国際会議でフロリディさんと同席したときの会議録にもとづいて、僕が編集し刊行した『情報倫理の思想』(NTT出版、2007年)にもまとめておきましたが、フロリディさんの議論には大きな問題点がある。彼は全てを情報圏というものの中で位置づけていくんですね。それは一種の還元主義だと思うんです。全てを情報に還元する。人間も、彼の考えでは、意味理解マシンみたいな情報有機体になってしまう。すると結局、人間は抑圧されていくことになるんじゃないか。いった未来の懸念を非常にわかりやすく断定的に述べているのが、イスラエルの歴史家ユヴァル・ノア・ハラリの『ホモ・デウス』(河出書房新社、2018年)なんですね。そこには、世の中にはアルゴリズムしかないと書いてある。人間はごく一部のエリートと大部分の無用者階級に分断され、エリートはデウス(神)になるが、ほとんどの庶民はただのデータに還元されてしまう。ハラリが『ホモ・デウス』みたいな存在を肯定しているかどうかというのは結構微妙な点ですね。彼自身は、そういうのは困った未来だと思っているのかもしれない。いうふうにならないようにするにはどうすればいいかということに関して、ハラリ自身は何も言ってないんですね。私が読んだ感触としても、彼は人間イコールデータ的な見方を単純にポジティブに評価しているわけではないですが、必然的にこうなっていくんだという諦めがあるようにも見えます。何かちょっとニヒルな感じなんだな。それを僕としては何とかひっくり返したいんですよ。この未来は西洋思想がもたらすものですが、解決が東洋思想なんかによって可能なのかどうか...。その辺が今後の僕のテーマとも言えるし、まだわからないところも多い。勝算はゼロではありませんよ。正・続』(NTT出版、2004、2008年)を読んでいただきたいんだけれど、もう少しがんばりたいものです。――*2019年4月2日、東京大学駒場キャンパスにて。GeneratePress。