そんな話が好物なこともあり、気付いたら論文にまで手を出していくつか読んでいました。すると初めて知る内容も多くなかなか興味深かったので、簡単に紹介します。簡単といいつつ結構長めです。「中国語の部屋」......英会話教室の中国語版のような印象を受けますが、実のところは以下のような強制労働(?)のことです。適当な部屋を用意し、中国語を理解していない人を入れます。部屋には小さな穴が開いており、その穴からは外部の人と手紙によるやり取りができます。お互い、相手の姿は見えません。こんなイメージですかね?部屋には中国語で書かれた質問が差し込まれます。部屋の中の人はもちろん内容がまったく理解できません。そこで使うのが「中国語会話完全マニュアル」的なものです。このマニュアルさえあれば、質問内容に対し回答すべき中国語が分かります。あとはそれを手紙に書き写して外に返すのみ。中国語による会話が成立しているため、外部の人からすると中には中国人(中国語の分かる人)が入っているのだ、と思えることでしょう。これがジョン・サールの提唱した「中国語の部屋」です。機械が人間のふりをしてチャットをし、人間と区別がつかなければ「知性あり」と判断する「チューリングテスト」というものがあります(なんと2014年に「合格者」が出た)。※人工知能とメールをする人のイラストいわゆるこんな感じでしょうか?「中国語の部屋」は、このチューリングテストをリアルに置き換えたようなものです。「こんなテストを突破しても、知性があるとは言えない。『中国語の部屋』の中の人は、中国語を理解してないじゃん。機械に知性は宿らないんだ!!」ってとこでしょう。部屋全体だと知能がある?これに対するよくある反論はこうです。中国語の部屋は中の人+マニュアルで構成されているので、その一部分だけ取り出して「中国語を分かっていない!」と言うのは乱暴というものです。この脳細胞は、中国語を理解しています!!」とはならないのと同じでしょう。脳内に小さな中国人が入っているわけじゃあるまいし。「もし中の人がマニュアルを全暗記したとしても、やはり中国語を理解しているとは言えない」といった回答をしています。うーん、そうなのかなあ......?足し算の部屋そんな中「マニュアルを全暗記するなんて、そんな無茶な」という意図で考案されたのが「足し算の部屋」です。(参考論文)「足し算の部屋」は、「中国語の部屋」の小規模版です。名前から想像できる通り、計算のできない人を部屋に閉じ込めて、マニュアルに従って足し算をさせます。足し算の内容は、10桁の整数を20個足すというもの。足し算の部屋(中国語の部屋)の定義上、中の人はマニュアルの意味を理解してはいけないため、「足し算の意味」が使用者に理解できないようマニュアル化を試みます。例として挙げられているのはこんな方法です。マニュアルは章立てになっています。1番目の整数に該当する章に行きます。章は10桁までに対応するため、全10000000000章(100億章)あります。次にその章の中で、2番目の整数に対応する節に行きます。例によって、節は全100億節あります。このような入れ子構造を20回たどると......ようやく答えとなる数字が書かれています。少々分かりづらかったかもしれませんが、足し算を知らない人でも答えが導ける(しかし足し算の意味は理解できない)ように作られた、とにかくものすごい量のマニュアルです。重要なのは、マニュアルに含まれる「答え」が10の200乗個あることです。最大の単位「無量大数」でも10の68乗、さらには宇宙に存在する原子の総数ですら10の100乗くらいなので、想像を絶する項目数です。足し算するだけなのに。こんなマニュアルはこの宇宙において作成不能ですし、もちろん覚えることもできません。部屋は知能を持ってるってことでしょう」というのが、「足し算の部屋」の言わんとしていることです。効率化したアルゴリズムを記憶しても、意味は理解できない?これまた別の論文を読んでると、上記「足し算の部屋」に対する反論がありました。「たとえマニュアルがどんなに効率的(1桁ごとに分解して足し合わせる、我々が普段使うアルゴリズムなど)だったとしても、それを使う人は意味を分かっていない!!(と、サールは言うはず)」とのこと。中国語の部屋が示しているのは「統語論だけでは意味論を生み出せない」ってことだ、って感じの難しい言葉で説明されることがありますが、それは上記のように「ルールに従って動いても意味は分からないだろう」という趣旨です。確かに、インプットとアウトプットである中国語や足し算の「意味」というか「その返事なり結果を書く意図・理由」についてはマニュアルには記載されませんからね。書かれている通りに文字を書き写すだけですし。ここまでのまとめ混乱する一歩手前なので、整理しておきます。仮説:「中国語の部屋」では中の人は中国語を理解していない。マニュアルをすべて記憶したとしてもそれは同様。(≒機械は中国語を『理解』できない)疑問:中の人に「意味」が理解できないようなマニュアルを作ると、マニュアルが宇宙サイズを超えてしまう(=中国語の部屋は作成不可)ため、その議論は無駄では?反論:超効率化された現実的なサイズのマニュアルを作って、それをすべて記憶したとしても、その使用者が中国語を理解しているとは言わない。マニュアル通り動いてるだけで、『意味』が分かっていないから!なるほどねえ......と思うとともに、このあたりで「『意味が分かる』って、よくよく考えると一体どういう意味だ!!?」と、いった混乱の境地に至った方もおられることでしょう。