逆に言えば、例えばデネットみたいな人に指摘されなくても、実際にプログラムを書いていれば、こういう問題があるというのは、実感としてはもともとわかっているわけですね。ロボット研究者は、フレーム問題なんて抽象的に言わなくても、個々の問題があって、個々の工夫というのがあるんだということなんだけど。認知心理的に知能の成り立ちから見ると、個々の問題をうまく解けるように人間が進化したというよりは、ある抽象的なレベルのフレーム問題というのをうまく解決するように人間の知能が進化してきたとみなすほうが多分自然だとは思いますけど。結局当時は、哲学の側からは、フレーム問題に関して、それを超えた、「じゃあ何なんだ」という話や、人間の側ではどう解決されているのかという積極的な話までは、示されませんでした。実際には、人間はフレーム問題を完全に解決しているわけではないけれども、ある程度回避できている。わからない、不思議だという話で終わってしまった。不思議だという人と、そもそも不思議じゃないんだという論陣を張っていた人もいますけどね。おっしゃるとおりですね。第3回目の今回のブームになっても、その状況はじつはあまり変わっていない。フレーム問題と記号接地問題というのが本質的にどうすれば解決できるのか。人間は解決しているんですよ。人間は解決していて、AIに同じような解決ができるんだということは、いまだにわかっていないといえば、わかっていないですからね。ディープラーニングというのは、量が質に転化するので、いまだと疑似的にはフレーム問題や記号接地問題が解けているように見えるという現象があるわけですけど、当時はそれがなかった。AI側も含めて、そもそも思弁的な議論にとどまるしかなかったんだと思います。あと、フレーム問題とか記号接地問題というけれども、その背景にあるのは、計算量の概念。これはAIだけじゃないですけど。これは情報系の研究者だけじゃなくて、プログラマーとかも日常的に思っているのですけど。論理的にはこういうアルゴリズムをやれば必ず答えが出るというのだけど、それにすごい時間がかかる。要するに未知数nに対して指数関数的に計算量が増加する。爆発するみたいな言い方をしますけど。それは、AI研究者にとっても非常に大事なことで、情報系のプログラマーでも、そういう勘を持っているかどうかがプログラマーとして優秀かどうかにかかわる。要するに、そういう計算量の概念がない人は、こういうときにはこうして、こういうときにはこうしてというやり方で理論的には書き下せるんだから、それで一応説明ができたつもりになる。哲学者が全部そうだとは言わないし、心理学者が全部そうだとは言わないけど、やっぱり心理学者や哲学者にはそういう計算量の概念が欠けている。サールの「中国語の部屋」という思考実験があって、いろいろなAI研究者からの反論があるのですけど。多いのはやはり計算量的な観点からの反論。要するに、サールの議論は、こういう質問があったときには、それに対してこう答えればいいという辞書があれば、中国語をわかってなくてもわかっているかのように見えるという話じゃないですか。任意の中国語の文に対する適切な応答のデータベースがつくれるということ自体がAI研究者から見ると非常に非現実的。それを前提としたサールの議論というのはそもそも成り立たないんだと。フレーム問題も記号接地問題も、行きつくところは計算量の問題。フレーム問題は、今までの土屋先生や黒崎先生へのインタビューでも出てきた話題ですが、哲学者は現在でも根本的な問題は持ち越されているんじゃないかと言われている。今のお話だと、その点に関しては微妙な感じでしょうか。基本的には持ち越されているというのが、僕の立場です。いう意味では黒崎さんや土屋さんと同じです。ディープラーニングの支持者が、ディープラーニングが両方を解決絶対できると主張しているのは、まだそこまで言えないだろうと思っている。人間はたまにはフレーム問題に悩むけど、大体の場合、悩まないわけじゃないですか。基本的には量の問題なので、ディープラーニングか、ディープラーニングの発展形かどうかわからないけれども、そういうAIシステムというのが、ある程度はできるだろうと。可能性はあるなというふうには思う。いまできているか、解けているか解けていないかというと、明らかに両方とも解けてない。解けているという論文があるんです。昔の研究者はフレーム問題とか記号接地問題とかに悩んでいたけれども、ディープラーニングでもう俺たちは乗り越えているんだぜという言い方をするのだけれども、それは違うだろうと思います。その点についてもう少し伺いたいのは、古典的なAIだとフレーム問題に陥るのは、明示的な規則ベースやアルゴリズムベースで書いていくと、結局例外に関するルールなどを書き出すのに収拾がつかなくなるというのが1つの根本的な問題だと思うのですが、ディープラーニングになることで、人間が明示的にルールを与えるのではない形になるので、事情が変わってくるということでしょうか。ルールで、100万通りのときに、このときはこうだという100万個ルールを書くのは大変なんだけれども、ニューラルネットワーク形式にすれば、入力の100万のパターンに対して出力がちょっとずつちょっとずつ違っているというネットワークを非明示的につくれるので、その100万通りに対する比較的適切な答えを出すというのが、ディープラーニングには可能かもしれないというのが、フレーム問題に対応できるかもしれないということです。100万は100万だし。原理的にと言われると、あくまで近似に過ぎないと言えば、近似に過ぎないんですが。これも松原先生が一貫して書かれていることですが、人間はフレーム問題に直面しないわけではなくて、あくまでも疑似的な解決なのだから、それと同じレベルに達すればよいと。その意味では、人間は完全に問題を回避できていて、人工知能は回避できないと捉えてしまうと、あらぬ方向に行ってしまうと。記号接地問題も比較的そういう話だと思うんですよ。大体の人が大事な概念については接地しているけど、やはり人間だって新規の概念となると、なかなか接地しない。間違って接地しちゃっている人もいるわけだから。人間がそれなりに困らない程度にフレーム問題も記号接地問題も対応できる程度にコンピュータも対応できるという意味で言うと、基本的には、僕は、フレーム問題も記号接地問題も最終的には人間と同じぐらいにはなれるはずだと、少なくとも理屈としては思っているので。最近は、中島秀之らがディープラーニングの上に記号処理を乗せるという話をしている。人間は明らかにニューラルネットワークで脳ができていて、でも、その上に長い進化の過程で記号推論をするようになっているじゃないですか。それは、ベースはニューラルネットワークでも、それと記号推論を組み合わせたほうが何かいいことがあったからだと思われる。ボトムアップでニューラルネットワークをどんどん膨らませて記号推論が創発されるのを待っていると、人間の進化と同じような時間がかかるかもしれないから、我々AI研究者としては、記号処理のことはある程度知見があるんだから、その枠組みをうまくニューラルネットワークに外付けでくっつけることによって、進化の過程をショートカットができないかと思っているんですけど。これからのAI研究は、多分そっちの方向に向かっていくと思うんです。ディープラーニングは、それとりあえずそれなりに優秀なベースであると。その上に記号推論を組み合わせて、もっと高度な知能をやっていく。それが僕としてはというか、中島なんかもそうかもしれないけど、昔からのAI研究者としては、人間のような知能をコンピューターに実現する有力な方法なんじゃないか。その意味で、ディープラーニングは評価する。あれだけじゃないよねという、そういう感じですね。いう意味では、より人間に似たような知性にしていくためには、ある意味人間に似たようなものになっていくだろうという感じでしょうか。松原先生の今までの研究の中心は、1つはゲームのお話で、もう1つがロボットの研究ですが、それぞれの背景には違った関心があるのでしょうか。基本的に、サッカーはともかく将棋は個人的に好きだったというのが背景にあります。チェスが世界的にはAIのグランドチャレンジというか、チューリングとかシャノンが取り上げた領域だったということもあったのだけど。日本ではゲームも人工知能も冬の時代でしたけど、とくにゲームを研究の題材にするというのが非常に嫌がられたんですよね。そのころは学生ですから、偉そうなことは言えないんだけど、ゲームとかをやろうと言わないこのマインドが、AIが日本で何か広まらない理由の1つなんじゃないかと思っていて。チェスはもう外国、アメリカとかが頑張っていて、遅かれ早かれ世界チャンピオンに行くと思っていたから、ほとんどの人は将棋の研究はしてないので、将棋の研究をして。基本的にはトイプログラムですから。ルールが明確で範囲限定的という、いまで言うやさしいタイプの問題なわけですよね。2回目のブームの当時は、将棋や囲碁も永久に名人に勝てないとみんな思っていたけど。それこそ井上先生の忠告で、将棋の研究を表に出したのは、30ぐらいですけど。ドクターとって3年ぐらいたって。中島とかが上司で、中島は、自分はあんまりやらないけど、囲碁とか好きで、ゲームの研究をやっても怒らないなんていう環境で、それで始めたというのがありますけどね。ロボカップは、やっぱり人工知能の研究は、いい例題が研究を促進するということを強く思っていて。チェスがそうなんだけど。いまに至るまで、日本のAI研究にちょっと不満な要素がある。気持ちはわかるんですけど。ディープラーニングの専門家になるわけです。それで、自分の思いついたディープラーニングの新しい工夫を評価したいので、それがうまく働くような例題を持ってきて、動かして、「ほら、パフォーマンスこんなにいいでしょう」というタイプの研究が多い。実は外国にも結構多いんですけど。僕は、大学院生で全然まだ研究者じゃなかったころからそれに不満があって。難しい問題があって、解けていない。意味ないことやってる」というのが結構あったりするんですね。いや、理由はわかるんですよ。論文を書きにくくなる。要するに、将棋のプログラムをいろいろやって、工夫して強くなったときに、何か、自分の考えた何とか手法というので強くなったっていったら論文を書きやすいですけど、世の中、難しい問題というのはいろいろな要素があるから複雑じゃないですか。いうのは論文書きにくいというちょっと背景は当然あるので、理解はするのですが。将棋をやったのはそれもあって。ロボカップは、ソニーの北野宏明さんとか大阪大学の浅田稔さんとかと、チェスの次の世界的なグランドチャレンジというのを目指そうという動きがあって。それを考えると将棋や囲碁というのはちょっとチェスの二番煎じなんですよね。それで、日本発の世界標準のAIのグランドチャレンジをつくろうと思った。あれは、ロボサッカーになるまでに随分あったんです。4年か5年ぐらい、実は議論があった。『グランドチャレン』」という本が共立出版から出てますけど、北野さんが20人ぐらい集めて、1人1個、何かテーマを提案した。僕は、そのときはまだ将棋の話をしたんだと思うの。いうのがこれからの何十年かのAIを引っ張るテーマとしていいんだって、みんないろんなことを言ったんですけど、サッカーは誰ひとり言ってない。その一部、北野さんとか浅田さんとかで、さらに議論をした。身体性が当時AIで言われ始めてたんですね。ロドニー・ブルックスとか。それもあったので、チェスのように記号で閉じているものよりは、実際に動く、身体性を持つ例題のがいいというので、サッカーが出てきた。日本でもJリーグができて。サッカーはやっぱり世界的に一番人気のあるスポーツだしなというのをいろいろ議論して、サッカーになった。永久に解けそうもない問題も困るけど5年や10年頑張ったらすぐ解けるような問題も困るねというようないろいろ議論があって、サッカーというのに落ちつきましたね。いう手法を使ったらどういう問題が解決できるか、はっきりわかっていない、いろいろ試せる余地のあるテーマだということですね。ロボカップはいまでこそ結構メジャーになって、世界大会を毎年やってるし、いろんなところで取り上げてもらって、大きく取り上げてもらっているんですけど、最初は、ロボット研究者は問題が難し過ぎると思っていた。サッカーというのは、何とかかんとか手法によってサッカーのゴールの成功率が上がりましたという、そんなきれいな研究になかなかならないわけじゃないですか。人間だって、サッカーがうまいというのは脚の速さとか身体能力とかいろいろな要素があって、総合能力ですよね。僕や北野、浅田は、そういう総合問題が大事だというふうに思って始めたんだけど、やっぱり、AI研究者もロボット研究者も、部分問題にして自分の考える手法が有効だというふうに持っていきたい。サッカーもいろいろな要素があるから、うまく本人が部分問題にすれば論文は書けるわけで。ロボカップを題材にいい論文を世界的にみんな書いてくれているし、アマゾンの倉庫のロボットシステムの会社みたいなのも、ロボカップをやってた人から生まれたりというので、そういう世の中の実用化というのにもつながっている。部外者から見ると、このグランドチャレンジという考え方は非常に興味深いです。テーマ設定としていろいろなものがあり得ますが、適切なテーマ選択があるわけですね。いうプロジェクトがあるんですけど、人狼って、それこそうそを見破ったり、うまくうそをついたりみたいな要素もあって、自然言語処理なんで。そのプロジェクトも、今回ブームが来たから始めたというわけじゃないんですけど、ロボカップ始めたのは90年代半ばで、当時の自然言語処理の技術だとちょっと目標が遠すぎて、何をやっていいかわからなかった。いうのはあると思います。サッカーも、時期尚早だったとは言われたものの、曲がりなりにもボールを蹴るというか、タイヤで当てて押すんですけど、それぐらいはのろのろだけどできると。我々も、グランドチャレンジと言ってはみたけど、ほとんど誰も注目してくれずにほとんどお蔵入りしたようなのもあるわけですが、研究者の社会でおもしろそうだからやってみようというのと、一般のマスコミの関心、あと、お役所とかスポンサーとかから見てこれをフォローしようとか、そういうのがうまくかみ合うと、よいグランドチャレンジになるということだと思うんですよね。ほどよい難しさで、ほどよい問題設定の規模であれば、ある意味、どんなジャンルであってもグランドチャレンジにはなり得ると。ロボット的なものであってもいいし、そうでなくてもいいと。ロボットでいうと、例えば自動運転は今盛んになりましたが、あれだってコンピューターが機械が運転するんで100キロとかいう、アメリカでそういうチャレンジがあったり。あと、「つくばチャレンジ」といって、つくばの学園都市を動くというチャレンジがずっとあるんですけど、そういうのもやってます。いううまいチャレンジを設定するというのが、ほかの分野もそうだと思いますけど、AIにおいても非常に大事なのかなと。マッカーシーが言ったのかな、「チェスはAIのハエ」らしいので。チェスは必然だったような、チェス以外のライバルはいなかったような気はしますが、うまくチェスを選んで、それなりにかかりましたけれども、結果的にはうまくいったということだと思うんですね。自動運転などは、ある意味、あっという間にグランドチャレンジとしては簡単なものになってしまうのかもしれない。たくさんの人がかかわって、たくさんお金が投入されると研究が促進されるので。自動運転もそうですけど、囲碁なんかが典型的ですよね。我々、ゲームのAIの専門家から見ると、チェスが一番計算量というか場合の数が小さくて、その次に将棋があって、囲碁がはるかに大きい。人間に勝ったのが、チェスが97年、将棋が事実上2010年。したら、以後はあと10年ぐらいかかるというのがこれまでの経緯なのだけど、10年を1年とか1年半にしてしまったのは、やはりグーグルの力。論文に20人ぐらい著者がいるんですよね。優秀な研究者がたくさんやるということと、世界でも最も速い計算機を大量に使える環境。DeepMindがすごいと思うのは、囲碁は技術的な宣伝にはなりましたけど、ものとしてはまったく売れないじゃないですか。それにそれだけお金をかけるという意思決定はすごいと思う。自動運転はできたらできたですごいお金が入ってきそうですからね。いうこともあって、自動運転には囲碁なんかよりももっと研究資金が投下されてくから、一気にあるレベルまでは進展する。グランドチャレンジのサイクルは早くなっていくけれども、また次のチャレンジがどんどん出てくるわけですね。