記憶容量になる」なんて言ったりできるわけです。離散状態機械は、各状態の推移の仕方やそれぞれの状態における出力といったことを示した表、先ほどの歯車機械の例で示したようなものですが、それがあれば、その離散状態機械が未来において何をするかは、計算によって予測することが可能なわけです。この離散状態機械の将来の振る舞いを予測する計算を、デジタル・コンピュータにやらせてはいけないという理由などありません。この計算をデジタル・コンピュータが十分な速さで処理できるのならば、デジタル・コンピュータは、どんな離散状態機械であっても、その真似をすることができるということになります。ある離散状態機械の振る舞いを正確に予測できるということは、その機械とデジタル・コンピュータを同じ状態にして同じ入力を与えたら、デジタル・コンピュータは機械と同じ出力を返すことができるわけです。正確には、デジタル・コンピュータは、機械が返すはずの出力を計算して、それを返すわけですが。いうことは、つまりは、その機械を真似しているということになりますよね。離散状態機械はその未来の状態や出力を計算によって予測できるわけですから、その計算を行えるデジタル・コンピュータは、全く同じように振舞うことができることになるわけです。離散状態機械と、それを真似するデジタル・コンピュータということで、2つに模倣ゲームをやらせてみるのもよいでしょうね。このような場合、私たちの模倣ゲームは、対象となる機械(B)と、それを真似しようとするデジタル・コンピュータ(A)とによって行われるものになります。実際にやってみると、質問者は両者を区別することはできないでしょう。ゲームに参加するデジタル・コンピュータは、十分な記憶容量と高速の処理能力を備えていなければなりません。対戦相手の真似しようとする機械が変わるたびに、新しい機械に合わせてプログラムし直す必要があります。模倣ゲームで、十分に質問者を惑わすことになるはずです。machines)であると言われたりします。このような万能性という性質を持った機械が存在しているということは、重要な意味を持っています。万能機械が存在しているということによって、処理速度の考慮は別にして、さまざまな計算処理を行うために、それぞれの処理内容に合わせた新しい機械を設計する必要はないということになるのです。それぞれの処理に合わせて適切にプログラムされれば、一台のデジタル・コンピュータにすべての計算処理を行わせることができるということなんです。すべてのデジタル・コンピュータは、ある意味で等価だということ、つまりは互いに置き換えることが出来るということ、そういうことにもなるのはお分かりいただけると思います。デジタル・コンピュータも離散状態機械ですから、他のデジタル・コンピュータで模倣できるわけですから。話が込み入ってきましたので、ここで簡単に整理しておきます:離散状態機械は、その未来の状態や行動の規則を、計算によって予測できる。デジタル・コンピュータは、この予測の計算を行える。それゆえ、デジタル・コンピュータは、離散状態機械の真似をすることができる(万能性)。デジタル・コンピュータも離散状態機械なので、デジタル・コンピュータは他のデジタル・コンピュータの真似をすることができる。よって、デジタル・コンピュータは、互いに真似をしあうことができ、その意味で等価である。デジタル・コンピュータというものの仕組みやその特性について考察してきましたが、本質的な点については一通り説明が済みましたので、ここで、私たちの本来の問題の考察へと戻りましょう。先ほど、「機械は考えることができるか」という問いは「模倣ゲームをうまくこなせる想像上のデジタル・コンピュータは存在するのか」という問いに置き換えられるべきだと私は述べました。デジタル・コンピュータというものがどんなものなのかを踏まえていないこの言い方は、表面的なものに留まっていると言えるでしょう。そこで、デジタル・コンピュータに関する考察をふまえて、もう少し一般的な問いへと言い直すならば、「模倣ゲームをうまくやる離散状態機械は存在するのか」と問うことになるでしょう。先ほど説明したデジタル・コンピュータの万能性という性質をふまえるならば、これら私たちの問いのいずれもが、次のような問いと同じことであることがわかります。役割を満足にこなすことが可能である。堅苦しい言い方になっていますが、もうすこし簡単に言うならば、「『デジタル・コンピュータが万能性を発揮できる条件が整っているならば、デジタル・コンピュータは人間の男性を相手にした模倣ゲームをうまくこなせる』というのは正しいのか?」ということです。「正しいのか?」という問い掛けになっているのは、私たちの関心は、理論的・原理的なことであって、今・ここで・現実に可能かどうかということではないからです。技術的な問題ではなく(この側面を蔑ろにするわけではありません)、理論的な問題として、考えたいわけです。計算する離散状態機械として万能性を持っているデジタル・コンピュータという機械、それが持っている原理的な可能性をどう考えるのかということが、この問いの核心にあるのです。デジタル・コンピュータというモノ(machine)の問題ではなく、デジタル・コンピュータという仕組み・機構(machinery)の問題なのだと言ってもいいでしょう。このようにデジタル・コンピュータの原理的な問題へと再定式化することによって、「機械は考えることができるのか」という問いは、曖昧さを取り除いた形で議論できるようになると私は考えるわけです。これが「機械は考えることができるか」という私たちの問いの、最終的に定式化されたものということになります。反対の立場をとる見解の検討これで議論の前提となる考えは明確になりました。そこで、私たちの問い、つまり「機械は考えることができるのか」という問いと、それを私が先ほど定式化しなおしたもの、この問いに関する論争の検討へと話を進める準備は整ったということになります。ここまで、最初の「機械は考えることができるか」という問いをデジタル・コンピュータの万能性をふまえた新しい問いの形へ置き換えるということを論じてきたわけです。いって、最初の問いを捨て去って、私たちの新しい形の問いだけを考えればいいかというと、そういうわけにもいきません。いうのも、私が先ほど述べた形へ問いを置き換えること自体が批判の対象になりうるからです。私たちが行った新しい問いへの変換をどの程度適切だと考えているかによって、この問題に関する意見というのは違ってくるでしょう。最初の問いと新しい問いとの間のつながりについて何らかの意見が述べられるのであれば、それに耳を傾けなければなりません。「機械は考えることはできるのか」という最初の問い、「万能性を発揮できるデジタル・コンピュータであれば模倣ゲームをうまくこなすと考えて正しいのか」という新しい問い、そして、二つの問いは同じことであると考えること、こういったことが論点になるわけです。論争の検討へ進める前に、ここで、私自身の立場、信念をはっきり述べておきます。すれば、みなさんは、私がどのような立場から考察し発言しているのか迷われることも無くなるでしょう。先ほど定式化した、より精確な形での問いに対する私の意見を述べておきます。以上の確率で正しい判定ができない、つまり10回やって7回はどちらが人間でどちらがデジタル・コンピュータなのかを正しく同定できない、その程度には模倣ゲームをうまくこなすようにデジタル・コンピュータをプログラムすることが可能になると信じています。記憶容量を備えたものになっていて、それだけの記憶容量があれば、今言った程度には模倣ゲームをうまくこなせると信じています。次に最初の問いである「機械は考えることができるか」という問いですが、これについては、私は、この問い自体が議論するまでも無いような意味のないものになってしまう、そう信じています。20世紀の終わりには、言葉の用法や教育を受けた人たちの意見というものが今より大きく変化して、機械が思考しているということを何のためらいも違和感も無く口にすることができるようになるだろうと、信じてます。今の私たちは、考えるということ、思考ということを、人間独自の能力だと考えています。「機械が考える」という言い方や考え方に違和感や嫌悪感を感じるのでしょうが、やがては、「考える」ということは人間に限った活動ではないことが広く受け入れられるようになると思うのです。「信じている」を繰り返してますが、さらにもう一つ「信じる」を付け加えさせてください。私がデジタル・コンピュータについて今述べたことは、すべて私が「信じている」だけのことであって、証明された事実ではないわけです。単なる私個人の信念を述べたにすぎません。このような信念を語ることに対して批判的な意見もあります。信念といったものは自分の胸の内に秘めておくべきであって、そうした方が役に立つ目的を得られるのだというわけです。私は、この考えが間違っているということも信じてます。信念をはっきりとさせ、それに基づいて研究を進めるほうが有用な目的が見いだせるはずです。世間では、科学者というものは、研究を進めていくときには、動かしがたい事実から別の動かしがたい事実へと揺るぎない足取りで探求を進めていくものであって、推測なんてものには、それがどんなに練り上げられたものであっても影響を受けることがない、あるいは受けてはならない、そんなふうに思われています。なにが事実であり、なにが推測であるか、このことが明確に区別されているならば、どんな害も生じないのです。推測は非常に重要なものなんです。推測によってこそ、どの方向へと研究を進めたら有用なのか、それが示されるものだからです。私がこうして自分の信念を明らかにすることも、研究のためには重要なことであると信じてます。これは、あくまでも信念にかんする信念なわけですが。私の立場、信念を明らかにしたところで、それに対する反論を検討していくことにしましょう。色々な立場からの反論があるのですが、ここでは、以下のそれぞれの立場からの反論・異論を順に検討していくことにします。神学的異論ではさっそく神学的な反論の検討に入りましょう。この神学的な立場からの異論というのは次のようなものです:「思考は人間の不滅の魂がもつ能力である。神は、すべての男性と女性に不滅の魂をお与えになった。いかなる動物や機械にも、魂はお与えにはなっていない。それゆえ、動物や機械が思考することはけっして出来ないのだ。私は、この意見のどの部分も受け入れることはできません。相手と同じ土俵にたって、つまり神学的な枠組みを用いて反論してみることにしましょう。神学的な議論へと踏み込む前に、この意見を聞いて思い浮かんだことを二つばかり述べておきます。世の中に存在しているものにも違いがあってその違いの大きさを訴えたいのであれば、動物を人間と同じ分類に含めたほうが説得力がありますね。私が考えるに、人間と動物との違いよりも、生命を持ったものと持たないものとの違いの方が、その違いは大きいからです。世の中に存在しているものを、人間という動物と、人間以外の動物と機械との2つに分けるというのは、人間を特別扱いしたいのがミエミエですよね。つぎに、こうした考え方は、キリスト教という宗教においては正統で正しいものだとされているわけですが、宗教における正統的な考え方というものは何らの必然性もないものだということです。科学的・物理的な必然性、私たちがこの世界に生きている限りは絶対的に従うしかないような必然性、それに基づいた考え方ではなく、その宗教の世界観によって恣意的に作られた考えにすぎません。このことは、宗教どうしを比較して、ある宗教の正統な考えが、他の宗教を信奉する共同体の人々にはどのように感じられるだろうかと考えるならば、よりはっきりします。間違っていると思うでしょう。宗教的な世界観というのはそういうもので、他から見ればおかしなものや間違っていると思うものが、その宗教では絶対的に正しいとされていたりするわけです。いう意味では、先ほどの異論というのも、キリスト教的な世界観に縛られた偏ったものだということだってできるわけです。この点にはこれ以上は突っ込まないことにしておきます。神の存在を認め、神が魂を与えること、魂を持つものが思考するのだということ、こうしたことを認めたとして、先ほどの異論を改めて検討してみることにします。すると、先ほどの異論は、全能の神の能力に対する重大な制約を課すものだと、私には思えます。確かに、いくら全能の神であっても出来ないことがあるということは認められています。1を2に等しくするなんてことはできない。全能の神なのであれば、思うがままに魂を与えることができるのが当然でしょう。私たちの知っている現在の象が魂を持っていないのは、魂をもつに相応しい存在ではないからでしょう。神が象に魂をお与えになるとすれば、神は魂をお与えになる際には同時に、魂に仕えるのに相応しいように進歩した脳を持つように象に突然変異を起こさせるだろうと考えることができます。言い換えるならば、神は全能であるかぎりは、相応しい存在には、それが人間でなくても、魂をお与えになることができるのではないでしょうか。機械の場合でも、まったく同じ議論ができます。ある機械が魂をもつに相応しい存在なのであれば、神はその機械に魂を与えることができるはずです。すくなくとも、絶対に魂を与えないというのは、神の全能性を疑うということになります。この機械の場合の議論が、象の場合の議論とは違うと思えるとしたら、それは、機械の場合は話を「飲み込む」のが象の場合よりも難しい、つまり違和感が大きいということでしょう。この「飲み込み」の難しさというのは、神が機械の置かれている状況を、魂をお与えになるのに相応しいものだと考えるようなことは、象なんかに比べるとよっぽどあり得ないことだと私たちは考えている、このことが原因であって、神に機械に魂を与える能力を認めないということではないのです。問題の焦点である機械が置かれている状況については、これから論じていきます。魂をもち、それゆえに思考することができるような機械を私たちが作ろうとすることは、決して、魂をお作りになるという神の能力を、不遜にも奪おうとすることではないのです。私たちが生殖で子供を作ることが、神のその能力を奪う行為ではないのと同じことです。魂をお与えになるのは全能の神です。機械を作る場合でも、子供を作る場合でも、いずれの場合も、私たちは、神の意志の道具にすぎません。神がお与えになる魂が住まうのに相応しい場所を作り出す道具なのです。神学的な議論をちょっとばかり展開してみましたが、でも、こんなものはただの空論にすぎません。私の立場に対する異論の根拠としてどのような神学的な議論が展開されようとも、私はまったく心動かされることはありません。科学の歴史を振り返ってみれば、過去における神学的な議論が見当違いなものだったことは、これまでに明らかになっています。ガリレオの時代には、コペルニクスの地動説の否定の正当な根拠として、聖書に書かれていること、たとえば「そして太陽はじっと留まっており...一日中、降りてこようとはしなかった」(ヨシュア記10章13節)とか「神は地球の基礎を横たえた。それはいかなるときも動こうとはしなかった」(詩編105章5節)といったことが、持ち出されていたわけです。現在の私たちの知識に基づくならば、そのような聖書に基づいた議論はくだらないものにしか思えませんね。私たちの持っているような知識が無かった時代には、このような聖書によった議論は、まったく違った印象を人々に与えていたわけです。このように、神学的な議論というのは、私たちの議論に対する重大な反論にはなりえないと考えます。聞かなかったことにする立場の異論では、続いて、そういう話は聞かなかったことにする立場の異論をみておきましょう。これは次のような意見のものです:「機械が考えるということがもたらす結果はとても恐ろしいものである。機械が考えるなんてことはできないと望み信じることにしようじゃないか」この手の意見が、今述べたようなあからさまな形で表明されることはほとんどありません。機械と思考について少しでも思いを巡らす人のほとんどは、このような考えの影響を受けています。機械が思考するなんてあり得ないんだから、そもそもそんなことを考えるのが馬鹿げているというような意見を耳にすることがありますが、「あり得ない」といってる根拠は、単に「そういうことがあったら困る」という感情だったりするわけです。人間というものは、巧妙で知的である点で、その他の創造物よりもすぐれている、私たちはそう信じたがるもののようです。科学的な法則あるいは原理によって人間が優れているということには必然性があることを示すことができるならば最高でしょう。私たちは、他の創造物の監督者という地位を失う心配はまったくないわけですから。先ほど検討したような神学的な議論が広く受け入れられているというのも、明らかに、この気持ち、つまり人間は他の存在より優れているはずだという気持ちに結びついています。この傾向は知的な人々の間に非常に根強くあるようです。いうのも、知的な人々は、他の人たちよりも、思考という能力の価値を高く評価するわけです。人間が思考できるということ、この思考という能力こそを、人間が優れた存在であると信じる根拠にしようとするわけですね。私は、この手の異論は、きちんと反論をくわえるほどの価値があるとは考えません。議論は論理的なものではなく心情的なものだからです。議論を積み重ねたところで、機械が思考しうるということを理屈によって納得してもらうことはできないでしょう。このような考えの人に対しては、論理的な議論を展開するよりも、慰めの言葉をかけておくほうが良いでしょうね。数理論理学の分野では、離散状態機械の能力には限界が存在していることを示すのに使える理論的な成果がいくつもあります。有名なものはゲーデルの不完全性定理として知られているものです。どんなに強力な論理体系であっても、その論理体系が無矛盾なものであるならば、その論理体系の中だけでは正しいと証明することも間違っていると反証することもできないような命題が定式化できるということ、このことを示したのが不完全性定理です。この不完全性定理とは別に、ある点では同じようなことを述べているものとして、チャーチ、クリーネ、ロッサー、そして私チューリングによって明らかになった成果があります。こちらのほうは、機械を直接に対象としたものになっていますので、ここで取り上げて、考察するのに一番良いでしょう。それに比べると、他の成果の方は間接的な議論を展開しないと、離散状態機械の問題の考察には使えないのです。先ほど述べたゲーデルの不完全性定理を私たちの議論に持ち込むためには、論理体系を機械の枠組みで表現し、機械を論理体系の枠組みで表現する、そういう何らかの方法を必要とします。私が関わったものは、本質的には無限容量を備えたデジタル・コンピュータであるような機械について述べたものになっています。私が関わった数理論理学の成果とは何を示したものなのか。それは「チューリングマシンの停止問題の決定不可能性」と呼ばれるものなのですが、無限の記憶容量を備えたデジタル・コンピュータでも実行できないようなことが存在していることを示したものです。無限の記憶容量があれば、デジタル・コンピュータは、どんな計算処理であれ、それが有限回の演算の手順をこなしていけば解けるものであれば、かならず処理することができるわけです。計算が終了したら役目を終えたデジタル・コンピュータは停止するものだとすると、たいていの計算問題の場合は、それを処理させたら、デジタル・コンピュータはいつかはちゃんと停止して正しい答えを出すことは明らかということになります。ところが、コンピュータがいつまでたっても停止しない、あるいは停止したとしてもそこで出てきた答えが間違っている、そういう計算問題が存在するのです。先ほどのゲーデルの不完全性定理に即して言うならば、与えられた命題が真か偽かを計算できるような計算機械をもってしても、ある種の命題は、どんな演算の手順をふんだとしても、真であるとも偽であるとも計算できないということなんですね。そのこと、つまりデジタル・コンピュータでは真とも偽とも判定できないような命題が存在すること、言い方を変えれば機械的な手順では真とも偽とも判定できない命題が存在すること、計算の理論をやってる人たちの言い方をすれば「アルゴリズム的に解決不可能な問題がある」ということが定理であること、このことを私は証明したのです。いうことか、もう少しくだいて説明しましょう。今、与えられた質問の答えを返すような機械、ちょうど模倣ゲームに参加する機械のようなものですが、そんな機械を作り上げたとします。返事を返すまでにどれだけ時間がかかってもよいとします。このとき、機械が間違った答えを返すことになるか、あるいは全く答えられないことになる、そういう質問が存在しているということなのです。そのような質問はたくさんあるかもしれませんし、ある機械には答えられないものであっても別の機械ならちゃんと答えられるという質問もあるでしょう。当然のことながら、今考えている質問というのは、「Yes」か「No」で答えられるような質問です。「ピカソについてどう思いますか?」というような質問ではありません。機械が必ず回答に失敗する質問として分かっているのは、次のようなタイプの質問です:「ある条件Xに従って設計されて作られた機械を考えてください。この機械は、どんな質問にも『Yes』と答えるでしょうか?」。条件Xの部分には、ある標準的な形式で定式化されたなんらかの機械についての記述が入ります。先ほど、私たちの問いの定式化を行った際のものみたいな記述です。この質問を投げかけられたとき、質問されている機械が、質問の中で説明されている機械と、ある種の比較的単純な関係にあるとき、機械の回答が間違っているか機械がいつまでたっても回答しないということを証明できるのです。先ほどの質問は、機械に機械の振る舞いについて尋ねるというちょっと変わったパターンになっているところがミソなんです。ある機械、仮にAとしておきましょうか、そのAの動作、つまりその機械Aが計算するべきことと計算の手順(プログラム)が厳密な形で定式化されているとしましょう(これが先ほどの質問の一つ目の文で述べていることです)。Aと同じように作られた別の機械Bに、この機械Aの動作について検証させます(これが質問の二つ目の文で述べていること)。機械AはXという問題を解けるかどうか(答えを出して停止するかどうか)をBに調べさせるわけです。デジタル・コンピュータは他の機械を真似できるという万能性を持っているわけですから、他の機械の動作を調べて検証を行うことぐらいできそうに思うかもしれませんが、これがうまくいかないんですよ。BはAについて、正しい判断を下せないんです。今述べたこと、つまり機械には絶対に答えを出せない問題が存在するということ、これは数学的に明らかになっていることです。このことによって、人間の知性には問題にならないのに機械には出来ないことがある、そういうことが証明されたと言われています。機械の能力には限界があることは数学的に明らかになってるじゃないか、だから知的な限界をもたない人間みたいな思考なんてできないよ、とそういうことを言うわけです。した意見に対して、簡潔に回答するならば、こう言うのが良いかなと思います:「どんな特定の機械であれ能力に限界があるということは確証されているが、しかし、人間の知性に同じ限界が課せられていないということは、どんな証明もなされたことがないまま、ただこれまでそう言われてきたことに過ぎないじゃないか」。先ほどの数学の話のように機械の限界は確かにちゃんと証明されたわけです。人間知性には、その限界がないということは証明されていないわけです。機械の限界が証明されたことを持って私の立場に反対する人は、証明されていない理由に基づいて議論していることになるわけです。いえ、私は、人間の知性には限界がないという見解を、証明されてないことを指摘したぐらいで簡単に退けることができるものとは考えていません。先ほどの数学の議論の中で触れた機械が、まさに致命的な質問、つまり機械が間違うか答えられないことが明らかな質問を投げ掛けられ、はっきりとした答えを返してきたとします。このような時にはいつでも、私たちはその機械の答えが間違っているに違いないことが分かるわけです。答えられないはずの問題に答えを出してきたわけですからね。機械が間違ったということが、我々にちょっとした優越感を与えてくれるわけですね。その優越感は疑いようも無く純粋な心からのものでしょう。いえ、その優越感にあまり重きをおくべきではないと私は考えます。私たち人間だって質問に対して誤った答えをすることがかなり頻繁にあるわけじゃないですか。私たちが機械が間違うのを目にして優越感を感じることができるといっても、それは、ある一つの機械を相手にして、その機械が答えれないような質問を投げ掛けた場合でしかないわけですよ。言ってみれば特定の機械に対する些細な勝利でしかない。すべての機械に同時に勝利を収めることができるような質問は存在しないでしょう。端的に言えば、人間は自分が相手をするどんな個別の機械よりは賢いかもしれないが、その機械のほかにもっと賢い機械があって、じゃあと次のその機械と相手をすると人間の方が賢いが、それよりも賢い機械があって...と、そういう感じの話になってしまうということです。私の関わった停止問題の決定不可能性にせよゲーデルの不完全性定理にせよ、ある特定の機械(体系)においては決定不可能な命題が存在することは明らかにしましたが、すべての機械(体系)で決定不可能な命題が存在することを明らかにしたものでないんですよ。ある機械(体系)では決定不可能な命題でも、別の体系にとっては決定可能なんです。分けて考えなくてはいけません。根本的なことを言うなら、無矛盾性と真理とは違うという大きな問題を論じる必要があるんでしょうが。数学的な議論に基づいて私に反論する人たちであっても、たいていの人は模倣ゲームを議論の土台に用いることには賛成してくれるものだと私は考えてます。その前に検討した神学的な反論を説く人や知らんぷりをしたい人は、どんな基準で議論するかってこと自体にも関心を持たないでしょうね。意識に関する立場からの議論では、意識に関する議論の検討に移ります。この議論の主張は、ジェファーソン教授がリスター記念講演の中でうまく表現されていますので、それを引用しておくことにします。「機械が、デタラメに文字や記号を並べるのではなくて、なにかのアイデアがひらめいたとか気持ちの高ぶりを感じたことがきっかけでソネットを書いたりコンチェルトを作曲することができる、そうなるまでは、機械が脳と同等だという意見に同意することはできない。脳というものは、ソネットやコンチェルトを書いたりすることができるだけではなく、それを自分が書いたということを知っているものなのである。どんな機械仕掛けであっても、自分の成功に喜びを感じることはできないし、真空管のヒューズが切れてしまったことに悲しみを感じることもできない。お世辞に舞い上がったり、自分の失敗に惨めになったり、セックスに心奪われたり、欲しいものが手に入れられないからといって怒ったり落ち込んだり、そういうこともできやしない。仕込んでおいた信号が出るだけとかそういう簡単な仕掛けでそれっぽく見せることはできるにしても、今言ったようなことを機械が本当に感じることはできないのだ。」このような主張は、私たちの模倣テストの正当性を否定しているように思えます。本人というか本体というか、それがどのように感じて意識しているのかが重要だということですから、この見解をつきつめるならば、機械が思考しているということを確信できる唯一の方法は、自分が機械になって、機械として考えているということを自分で感じることだということになります。すれば、その人は機械である自分の感情を世界に向かって堂々と述べることができます。当然のことながら、自分が言っていることが正しいことを示すことはできません。その機械じゃない他の人には、本当かどうかを確かめる術はないわけですから。同じ理屈で、ある人間が思考しているということを知る唯一の方法は、その人そのものになるしかないということになります。みなさんは、私が思考する存在として、自分の考えたことを話していると思っていることでしょうが、もしかしたら私は考えている振りをしてるだけのマネキンかもしれません。私が本当に思考しているのかどうかは、私になってみないと分からない、そういうことになるわけです。これは唯我論という立場の考え方です。この立場は、考え方としては論理的に突き詰めたものではありますが、この立場にたってしまうと、アイデアの伝達が難しいものになってしまいます。ここにAさんとBさんという二人の人間がいるとします。Aさんは「Aは思考するが、Bは思考しない」と当然のように信じるものでしょうし、一方のBさんは「Bは思考するが、Aは思考しない」と信じるものです。互いに、他ならぬこの自分が感じ考えることが真実であることの根拠であるということは譲らないとしたら、話し合いの余地はないように思えますよね。この点について延々と議論を続けて決着を付けようとするよりは、誰もが思考しているとする真当で世間的な慣習に従うほうが、まぁ、まともで有益ですよね。ジェファーソン博士が、このような極端で唯我論の立場に立とうとしているのではないことは分かっています。博士は、模倣ゲームをコンピュータが脳と同等のものかどうかのテストに使うことは文句無しに受け入れてくれるでしょう。その場合の模倣ゲームは、コンピュータだけを相手にした、つまり質問されるのは一人だけの形のものになります。この形の模倣ゲームというのは、しばしば実際に使われるものです。相手が本当に理解しているのか、それとも「丸暗記で詰め込んだ」ものかどうかを確かめるために使われる、口頭試問というやつですね。皆さんの中にも入試などで面接を受けた方もいると思いますが、あれを思い浮かべてもらえばいいでしょう。いう口頭試問がどんなものかを、ちょっと見てみることにしましょう。質問者:あなたのソネットの最初の行は「汝は夏の日のごとし」とありますが、これは「春の日」でもいいか、あるいはそっちのほうがよくありませんか?被験者:でも、それじゃソネットの型に合いませんよね。被験者:そうですが、でも冬の日に喩えられて嬉しい人なんていませんよ。質問者:ピクウィック氏のことを思うとクリスマスを思い出すってことではどうです?被験者:まぁ、確かに、そうもいえますが。質問者:クリスマスは冬の日ですよね。ピクウィック氏は冬に喩えられるのを気にするとは思えませんけど。被験者:それは屁理屈としか思えません。冬の日といえば、クリスマスみたいな特別な日のことではなくて、ごく普通の冬の日のことですよ。こんな感じで続いていくわけです。私にはわかりませんが、ただ、機械の回答がちゃんとしていて、さっきの感じで続くのなら、ジェファーソン博士も、さすがに、その機械が「簡単な仕掛け」だとは言わないと思います。私が考えるに、ジェファーソン博士が「簡単な仕掛け」と言っているものは、予め録音してある色々なソネットを、その時々に応じて取り換えながら、読み上げていくような、そんな程度の機械を指すつもりの言葉でしょう。端的に言うならば、意識の立場からの反論を支持するほとんどの人たちは、議論を突き詰めて問い詰められて唯我論の立場を無理やり引き受けることになるぐらいなら、そこまで極端なことを言うつもりはないと意識の立場の意見をすてちゃう、そうなる可能性が高いと私は考えてます。模倣ゲームで機械が思考しているかどうかの判定を行うという私たちの考えを、たぶん、喜んで受け入れるようになると思います。意識を巡る議論にあれこれ言ってきましたが、注意してもらいたいのは、私は、意識には不可思議なところなど全くないと考えているわけではないということです。したらそのように感じられたかもしれませんが、私はそんなことは思ってない。実際、意識のありかを突き止めようとすると、どうしたって引っ掛かるパラドックスみたいなものがある、そのことは私は認めてます。私たちが考察している問いに答えるために意識の謎を解決する必要があるとは思っていません。意識の謎と私たちの問題とは直接は関係ありません。人間にはできることが機械にはできない、その点をあげつらって、機械が人間のように「考える」なんてできるわけないじゃないかと主張する人たちがいます。した、機械にはできないことがある、能力がないという議論について見ていくことにします。この手の議論は、整理すると、次のような形になります:「たしかに君が言ったようなことをすべてこなせる機械を作ることはできるだろう。XXXができるような機械は絶対に作れっこないよ。」XXXのところには、人に応じて、色々なものが入ります。いくつか挙げておくと:親切にする、機知に富んでいる、美しい、親密である、ユーモアのセンスがある、善悪の区別が付けられる、間違いを犯す、恋に落ちる、クリームがけイチゴを堪能する、誰かを虜にする、経験から学ぶ、言葉を正しく使う、自分の考えをはっきりと持つ、人間のように色々な振る舞いをする、本当に新しい何かをやってみせる。した意見は、たいていは、それ裏付ける確固たる理論や原理などがあって述べられたものではありません。した意見は、そのほとんどが、意見を述べている人の経験に基づくもの、つまり科学的帰納法によって得られた意見であると、私は信じています。人間というものは、その生涯において、無数の機械を目にすることになります。して自分が目にしてきた機械のことから、人は、いくつかの一般的な結論を引き出します。機械とは醜いものだとか、個々の機械は非常に限られた目的のために作られたものでちょっとでも目的が違うと役に立たないとか、どんな機械でも動作の多様性の幅はとても狭いとか、他にも色々あるでしょうが、そういう結論に達するわけです。した自分の経験が教える機械の特性というものは、機械一般が必ずもっている特性であると結論づけるのももっともなことです。経験から学ぶって言うのはそういうことですからね。今挙げたような、機械は限られた目的のためにしか役に立たないといったことなどの多くの機械の欠点・限界というものは、ほとんどの機械の記憶容量が非常に少ないことが原因です。私に言わせれば、それらは機械の限界ではなく、記憶容量の限界の問題だということです。記憶容量といっても、先ほど述べたデジタル・コンピュータ、離散状態機械だけの話ではなく、普通の機械一般にも当てはめることができるように、概念を広げることができるものだとして話をしています。その場合の記憶容量という概念の厳密な定義がどうなるかということは、今は問題にしません。私たちが議論していることに数学的な厳密さまでを求めているわけではないですから。記憶容量、それは命令や状態を保持しておく場所なわけですが、それが十分な容量がないがゆえに、多くの機械は限られたことしかできないと考えられるということです。ほんの数年前、まだデジタル・コンピュータのことを耳にしたことがある人などほとんどいなかった時には、デジタル・コンピュータがどんなふうに作れているかを説明せずにあれこれの特性を話してみたところで、そんな話は信じられないという態度を取る人がたくさんいたに違いありません。私が思うに、それも科学的帰納法の原理を適用するという先ほどと同じようなことが原因でしょう。自分の経験に基づいて考えるならば、デジタルなんとかってやつが、あれこれと言われてることができるとは到底思えないってわけです。いう機械は見たことがないわけですから。した、過去の経験から一般論を引き出し、それが普遍的な事実だと思ってしまうことは、もちろん、たいていは無意識のうちに人が行ってしまうことです。適用をおこなっているのだと言うべきだと思います。彼の行動を別の観点から説明することはできるわけですが。それでも、子供であっても、何かの対象について、自分の限られた経験をもとに一般論を引き出して、それに基づいて行動することをやっていると言える。適用して原理を導き出す対象としては相応しいものとは思えません。科学的帰納法によって人間の制作物や習慣について信頼するに足る結論を得ようとするならば、太古から現代までの地球上のすべての地域という、広大な時空における制作物や習慣についての調査がなされる必要があります。ないなら、イギリスの子供たちに実際に見られることですが、自分の周りの人間がすべて英語をしゃべっているのをみて、人間は誰もが英語をしゃべるんだからフランス語なんか勉強したってアホらしいと判断してしまう、そういう間違った結論を下すことになるわけですよ。すべての人間の営みを調査した上で、それに基づいて何らかの原理とか一般論を引き出すのであれば、その理論は妥当なものになるのでしょうが、ひとりの人間が自分の人生で見聞きできる範囲の限られた経験をもとに下した判断は、偏ったものになるのは当然ですし、真理とはとうてい言い難いわけですね。よる考察は、人間に関わるあれこれに関しては、十分に注意する必要があります。人は往々にしてそういう一般化をしがちなものですし、それに拠って人生をおくっていたりするわけで、だからこそ、先ほど挙げたような「機械にはXXXができない」という意見が出てくるわけです。「機械にはXXXはできない」という意見に対しては、「あんたはすべての機械を知ってるのか?」とか「あんたの限られた経験での話ではなく、機械の仕組みや原理をふまえて話をしろよ」という反論を返せばいいということになりますが、そうはいっても、先ほどの機械にはできないと言われたことの中には、いくつかあえて取り上げて論じておくべき特別なものがあります。「機械はクリームがけイチゴを堪能することができない」という主張などは、みなさんは馬鹿馬鹿しいと思われたことでしょう。このおいしいご馳走を味わって悦びを感じるような機械を作ることはできるでしょう。そんな機械を作ろうとするのはアホ以外の何もんでもない。いえ、この「機械はイチゴを味わえない」という反論が全く無意味かというとそうでもないんです。機械がイチゴを味わえないということが、ほかの機械の欠点を助長してしまうことがあるからです。ような同じ民族や人種の人たちどうし、同じ嗜好や趣味を持った人どうしであれば、それこそ旬のイチゴをともに食べ、やっぱりイギリスの夏にはクリームがけイチゴだよねぇと旨さを楽しむ経験を分かちあうことで、親密さを増すことができます。機械とはそういう食事の悦びを分かつことができないわけですね。いう意味では、「機械がイチゴを味わえない」ということは、機械と人間とのつきあいにおける問題点へとつながってはいるわけです。私たちの本来の問題である「機械は考えることができるか」という問題には、直接は関係ないとは思います。「機械は間違うことができない」という主張も、ちょっと奇妙なものです。間違わないってことは、それはそれで素晴らしいことですから、「それのどこか悪いんだよ」と言い返したくなったりもしますが、ここでは主張した人の立場にたって、何が本当は問題なのかを考えてみることにしましょう。私は、この「機械は間違うことができない」という批判の真意は、先ほども持ち出した模倣ゲームを使って説明できると考えています。コンピュータと人間の二人を相手にした模倣ゲームにおいて、質問者は、算数の問題を何問か出せば、簡単に機械と人間の区別は付く。機械はとことん正確な答えを出すことは隠しようもない。先ほどの批判を述べた人は、そう主張しているわけです。ある意味で、人間らしい思考を行うということには間違うことも含まれていると言ってるようなものかもしれません。機械は、その人間らしい「間違いを犯すこと」ができないじゃないか、と批判しているわけですね。確かに、間違いを犯したり、あるいはその間違いから新しいことを見いだしたりするというのは人間ではよくあることです。科学上の大発見にはつきもののエピソードだったりしますよね。その点を突いている批判だと考えられます。この批判に対する返答はいたってシンプルなものです。模倣ゲームをプレイするようにプログラムされた機械は、算数の問題に正しい答えを返さないようにだってできる。機械を間違わせることだってできるわけです。いう機械は、質問者が混乱するように十分に計算された方法で、うまい具合に間違いが混ざるようになっているわけです。質問者は、機械的な間違い、動作ミスってやつですね、それも、算数の問題を解いているときに間違ったという誤った判断を下すんじゃないでしょうか。機械は間違うことがないから模倣ゲームではすぐにばれてしまうとは言えないわけです。「機械は間違うことができない」という反論を模倣ゲームを使って考えるというのは、反論した人の立場にはあんまり即したものとは言えないかもしれません。いえ、これ以上、あれこれ詮索する余裕はありませんのでこのへんにしておきたいと思います。この「機械は間違うことができない」という批判は、2種類ある間違いというものをごっちゃにしてしまっているからこそ出てきた意見のように私には思えます。2種類の間違いというのは、「実行上のエラー」と「帰結のエラー」と呼ぶことができるものです。ことだといえば、プログラミングに詳しい方には分かってもらえると思います。「実行上のエラー」というのは、機械的な誤り、あるいは電気的な誤りによって、機械が、本来するようになっていたこととは別のことをしてしまうというものです。いってしまえば、機械の故障ですね。哲学的な議論をする際には、このようなエラーが起きうることを無視したがるものです。「抽象機械」について議論する、そういうことが行われます。「抽象機械」というのは、物理的な存在を背負っていない、純粋に数学的なものとして想定された仮構の機械です。いう「抽象機械」は、先程述べたような「実行上のエラー」を犯すことはできないわけです。実行上のエラーというのは、機械がまさにモノという存在だからこそ起こりうるエラーなわけですが、抽象機械は、そのモノという側面を捨て去ったものですからね。いう抽象機械に関して言うのであれば、確かに、「機械は決して間違いを犯すことはできない」と言うことができます。モノではない抽象機械が「実行上のエラー」、つまりは故障ですが、そういうことを起こすことなんて絶対に無理ですからね。一方の「帰結のエラー」というのは、機械が出力した信号を、人間が何らかの意味づけを行うときにだけ起こるものです。問題になっているのは機械自体の振る舞いではなく、それを人間がどのように受け止めるのかということにあります。機械が数学の方程式や日常語の文章を出力するとします。間違った命題が出力された場合、私たちは「機械が結論を間違った」と言うでしょう。考えてもらえばわかるように、機械がそのような間違った命題を出力するようにプログラムしたのは私たち人間なわけですよね。コンピュータはプログラムによって指示されたことを素直に実行したに過ぎないわけです。「機械が間違った」のではなく、「機械に対する我々の指示(プログラム)が間違った」と言うべきなんですよね。いう意味で、機械がこの種の間違いを決して犯さないと言えるような理由なんてどこにもない。間違ってるのは、突き詰めるなら、機械じゃなくて人間の側ですからね。印字し続けるだけだったら、私たちは機械がおかしいと普通は言うわけですが、根本的な原因というか、本当におかしかったのは、そういう状態へ機械を導くような指示を出した人間なわけですよ。指示された方法が間違っていたら、そこから出てくる結論、コンピュータの出力、それが間違ってるのは当然ですよね。一般化、をあげることができるでしょう。機械が科学的帰納法を用いて結論を導けるようにすることはできるかもしれません。私たちは、そのような方法を用いる限り、出てきた結論は誤ったものでありうることを、ちゃんと心しておかないといけないのです。このように、間違った方法を機械に実装すれば、いくら機械が正確に機能しようとも、出てきた結果は私たちにとっては「間違った」ものになるわけです。このように、「間違う」ということを厳密に考察するのならば、どのような機械が、どういうエラーを犯すのかをちゃんと考えないといけないわけです。「間違い」がどんな「間違い」なのかによって、「機械は間違うことができない」という意見は、正しかったり、間違っていたりすることになります。「機械は主観を持つことができない」という主張に対して反論するには、当然ではありますが、機械が何らかの思考について、主観的な意識を持っているということを示すことでしかできないでしょう。私たち人間は、自分が行いつつあることに関して、主観的な意識、自意識といってもよいかと思いますが、そういう意識を持つことができます。今、私は、こうして皆さんの前でお話ししているわけですが、話をしながら、自分が「話している」ということも意識しているわけです。自分がやっていることを、ちょっと引いたところから眺めている意識というか、ちょっと難しい言い方をするならば反省的な意識、そういうものがあるわけです。それが主観というものです。機械がこういう意識、主観をもてるかどうか、そこが問題になっているわけです。いえ、先ほども述べたように、最終的には、機械がそういう意識を持っていることを何らかの形で示さないと、批判にたいして反駁することはできないでしょう。いえ、「機械の処理に関する主観的な意識」言い換えるならば「自分が何をやっているかということを分かっている意識」、そういう表現は、機械が実際に私たちのような意識を持っているかどうかを別にしても、少なくとも、機械を扱っている人にとっては、全く意味がないものではなくて、何かしらもっともらしいものだと感じられるものだと思います。いう方程式の解を求めようとしている場合、この方程式は、その瞬間の機械の主観の一部であると言いたくなるものだと思います。いう方程式を解こうとしている」のであって、闇雲に与えられた演算を行っているわけではないと。この意味において、機械が自分の行っていることに対する主観的な意識を持っていると言うことができます。そのような主観的な意識、目的意識といってもよいかと思いますが、それは、機械が自分のプログラムを自分自身で作り上げるのに役立てることができるでしょうし、機械の構造を変更したときにどのような影響が現れるのかを予測させるなんてことにも役立つかもしれません。機械がそのような自意識をもっているならば、機械が自分自身の振る舞いの結果を観察し、もっと効率よく目的を達成できるように、自身のプログラムを変更することが可能になるわけです。自らを改良していく機械とでもいいましょうか。いう機械というものが、夢物語のものではなくて、近い将来に登場することでしょうね。機械は色々な多様な振る舞いができないと批判するのは、機械が十分な記憶容量を持つことができないと言っているようなものです。最近まで、1000桁にも及ぶような記憶容量をもった機械なんてほとんどなかったわけですから、まぁ、こう考えるのも当然かもしれません。これまでは持っていなかっただけのことであって、持てないということではありません。私たちが、ここで検討した批判・反論は、多くのものが機械の自意識に関する議論の形と同じような装いをしています。機械が何かをできないということそのこと自体よりも、どこかで、人間のような多様性、柔軟性、あるいは間違い可能性とでもいうんでしょうか、そういうことが機械に備わってないことを問題にしたいような議論なわけですよね。機械にはあれやこれができないだろうと指摘されたことに対して、いや、機械はちゃんとこういうことができるんだよと主張し、機械がどうやって行うかを説明してみせたところで、たいして感心されないのが普通だったりします。機械が何かをやりとげる方法は、それがどんなことをやりとげるものであれ、機械的なメカニカルな方法でしかないわけで、そういうのは、どっちかという不純なものだと考えられているわけです。先ほど引用したジェファーソン教授の講演の中も、「予め仕込んでおいた信号が出るだけとかそういう簡単な仕掛け」という言い方があったように、どうも機械仕掛けというのはどこか本物ではなくて見せかけにしか過ぎないと思われちゃう。意識ってもんがこもってないとだめだってわけです。ラブレス伯爵夫人の異論では、続いてラブレス伯爵夫人の反対意見を取り上げて検討することにしましょう。King)のことです。エイダという名前の方で広く知られているでしょう。彼女は、詩人のバイロンの娘として生まれました。彼女が生まれてすぐに両親は離婚したので、娘と言っても詩人のバイロンとの関係は薄いようです。母親の手引きで幼い頃から数学を学習し、そちらで才能を開花させました。エイダは、チャールズ・バベッジと親交を結び、バベッジの解析機関のよき理解者となりました。バベッジの解析機関については、デジタル・コンピュータについて解説した部分でも取り上げましたが、現在、私たちがバベッジの解析機関についての情報をもっとも詳しく得ることができるものでバベッジの同時代に書かれたものとしては、ラブレス伯爵夫人が書いた論文があります。この論文を書いたことによって彼女はコンピュータ史に名前を残すことになったわけです。先ほど史上初のハッカーとかプログラマと呼ばれると言いましたが、実際には、プログラマというよりは、バベッジとその解析機関のエバンジェリスト(evangelist)といったところでしょう。エイダのその有名な論文は、バベッジがイタリアを訪れて科学者会議に出席して、そこで解析機関について述べたことがもとになっています。いう人が、バベッジがイタリアで行ったセッションを書き留めて、整理したものを、スイスの雑誌にフランス語の論文として発表したのですが、それをエイダが英語に翻訳するとともに、彼女自身による膨大な解題、今でも専門書の翻訳の後ろについてることがある訳者解題ってやつですね、それを書き加えて、イギリスの雑誌に発表したわけです。いう雑誌に、1843年に掲載されました。整理してフランス語の論文にし、それをエイダが翻訳し解題を書き加えたというものです。解題の方が翻訳部分の2倍にもなろうかという分量があるものになっています。後にイタリア統一のための闘争に身を投じ(バベッジが訪れた頃は、まだイタリアは一つの国家としてはまとまっていなかったんですよ)、新生イタリア政府の総理大臣になっています。冒頭部分で、彼女は次のように書いています。解析機関は、何か新しいものを創造することは決してない。解析機関は、そのやり方をどうやって命令したらいいのか私たちが分かっていることであれば、なんだって出来る。この発言については、物理学者のハートリーが、自分の論文の中で引用した上で、コメントを加えています。そんな彼が、エイダの先の発言について、次のようにコメントしています。彼女のこの発言は、「自分自身について考える」ような電子装置、あるいは生物学的に言う条件反射=反省(それは『学習』の基礎となるだろう)を行うように組み立てられた装置、そのような装置を作ることは不可能だろうと言っているのではない。そんな装置を作ることが原理的に可能かどうかという問題は、刺激的でワクワクさせられるものであるが、この問いは最近の進歩によって初めて問いとして浮上してきたものだ。バベッジが解析機関を作ろうとした当時、実際に制作されたりあるいは計画された機械を相手にしている限りでは、機械がこのような性質を持ちうること、つまり自己反省=反射の能力を備える可能性があること、そんなことがありうるとは思えなかったのだ。私は、このコメントでの意見については、ハートリーに全面的に同意します。注意しておきたいのは、ハートリーは、バベッジの作った機械が思考とか反省するという性質を持っていなかったと言っているのではないということです。なくて、ラブレス伯爵夫人が目にすることが出来た当時の証拠からは、機械がそのような性質を持っていると信じることなんてとうてい出来なかったということなのです。バベッジが作ろうとしていた機械が、ある意味では自己反省=反射を行うという性質を手に入れていたということは、かなりの率でありそうだと私は思います。理由を説明しましょう。今、自己反省を行えるような離散状態機械があったとします。バベッジが作ろうとしていた解析機関は、前に述べたように、万能性を備えたデジタル・コンピュータなわけです。記憶容量と処理速度が十分にあれば、うまくプログラミングすることによって、解析機関に自己反省する機械の真似をさせることができるというわけです。このような議論は、バベッジもエイダも思いつかなかったのでしょう。いずれにせよ、彼らには、解析機関に関して、その原理的可能性も含めたすべてのことを述べなければならない義務などなかったわけです。彼らが気がつかなかったり考えもしなかったことが、実際は解析機関の原理には含まれていたとしてもなんら不思議ではありませんし、バベッジやエイダの誤りだと論うようなことでもないわけですね。エイダの意見については、後で学習する機械について論じるときに、再び考えることにします。ラブレス伯爵夫人の反論と同じような意見として「機械というものは、本当に新しいことを行うことは決してできない」という主張があります。いう意見に対して、「お天道様の下に新しいものなんかなんにもない」とかいって突っ込むことができます。人間のやってる本当に新しいことだって、突き詰めれば、どこまで本当に「新しい」ことなのかはっきりしないだろ?っていう反論ですね。「独創的なオリジナルな成果」とよく言いますが、それにしたって、教育によって得ることが出来た種を育てて実らせたことだったり、よく知られた一般的な原理というものに則って突き詰めていった結果だったりするわけです。それはそれで立派な業績ではありますが、そういう先人たちの残してくれたものや与えられたものには因ってない本当にオリジナルなことをしたんだとはっきりと言い切れる人がいるでしょうか?いないと思います。あのニュートンだって、自分は巨人の肩の上に乗ってるんだって言ってますよね。彼は他人の業績の影響を隠そうとしたセコイやつだったそうですが。いう意味で、機械だけを「本当に新しいことができない」と責めるのはどうかと思います。エイダの意見に似た、もうちょっとまともな反論としては、「機械というものは、決して私たちを驚かすようなことはできない」というものがあります。この意見は、先ほどのものよりはダイレクトに問題点をついてくるものではありますが、こちらもダイレクトに答えることができるものです。機械はきわめて頻繁に私を驚かしてくれます。これだけではあまりに素っ気ないですから、なんで機械が私を驚かすようなことをしでかすのか、その点を説明しておきましょう。いうことが起きるのは、たいていは、機械を動かした結果がどうなるかということがはっきり予測できるほどの計算を私がやってないということに理由があります。私が結果予測の計算をしっかりしたとしても、急いでいいかげんにやってしまって、間違いかもしれないような結果を出してしまうわけです。「ここの電圧は、あっちと同じものだとしよう。いうことにしておこう」なんて自分に言い聞かせながらやったりするわけですよ。当然のことながら、しばしば間違うことになるわけで、実際に機械を動かしてみた結果に驚くことになるわけです。実験が終わる頃には、自分が勝手に決めてかかって計算したことなんか忘れてますからね。自分の計算は正しいはずなのにこの結果はなんだ!って、ようは自分の計算がいいかげんだったことも忘れて驚いてしまう。このような告白をしちゃうと、悪いのはおまえの実験のやりかたじゃないかなんてお説教されることになるかもしれませんが、しかし、私が経験した驚きが本物だということについては、誰も疑問をはさまないと思います。このような反論で、機械は人を驚かすことが出来ないという反対意見を述べてる人を黙らせることができるとは思っていません。あんたの驚きは、あんたの精神が持っている何か創造的な働きによるものであって、機械の側が人を驚かすような特性を持っていることを保証するものではない、そんなことを言われると思います。いうことを言い出すと、またあの意識に関する議論へと舞い戻ってしまい、驚くという考えからは遠ざかってしまうことになるわけです。この方向での議論は十分にやりましたので、止めておきます。何かを驚きとして受け止めるということは、その驚くような出来事が、人間によってもたらされたものであろうと、本によるもの、機械によるもの、あるいは他の何かによってもたらされたものであろうとも、創造的な精神の働きを必要とするということ、このことは言っておく必要があるでしょう。これは、先ほど、私が機械に驚くことに対する反論として出てきた意見なのですが、そのことは、何も機械が相手の場合には限らない。驚くということは、そういう、体験する側の精神の働きを必要とするものなのだということです。機械は驚きを生むことはできないという見方は、数学者や哲学者が特に陥りがちな誤謬によるものだと、私は信じています。この誤謬というのは、事実が精神に提示されれば、すぐさま、その事実のすべての帰結が精神へと沸き起こってくるとしてしまうものです。精神はすべてを見通せるものだと考えてしまうわけです。多くの状況において、このように考えることは、確かに、きわめて役に立つことではあります。人は、そのように仮定することは、本当は誤っているということを、いとも簡単に忘れてしまうものなんですね。忘れてしまう結果として、すでに分かっているデータや一般的原理をもとに何か成果を取り出そうとすることには、何の価値もないと考えてしまうわけです。そんなことは実際にやらなくても最初からどうなるかわかってるじゃないか、というわけです。実際は、人間の精神がすべてを見通せるわけなんてなくて、いくら分かり切ったことから出発しようとも、やってみないことにはわからないこと、やってみて初めてわかることが、いくらでもあるもんです。神経システムの連続性を重視する立場からの議論さて、続いて、神経システムの連続性を重視する立場からの議論の検討を行うことにしましょう。神経システムが離散状態機械でないことは確かです。ニューロンへ入力される神経パルスのほんの小さな情報のエラーというものが、その神経から出力される神経パルスの大きさにかなりの違いを引き起こしてしまうようなことが起きるかもしれません。神経システムがそういうものだとしたら、神経システムの振る舞いを離散状態機械で真似るなんてことができるなんて考えられないという意見も出てくることでしょう。離散状態機械が連続機械と異なるはずであるというのは真実です。連続機械というのは、皆さんに馴染の表現を使うならアナログ機械というものですが、確かに、原理的にデジタルな離散状態機械とは異なったものであることは否定しようも無い。模倣ゲームをうまくこなすかどうかという観点で考えるならば、この二つの機械の違いは、それほど決定的なものにはならないと私は考えます。離散状態機械と連続機械、デジタル機械とアナログ機械を模倣ゲームにかけてみると、質問者は、この機械の違いをうまく利用することはできない、つまり原理的な差を模倣ゲーム上で見いだすことはできないだろうと思います。神経システムとは違う、似ているがもっと簡単な連続機械で考えてみれば、このこと、つまり離散状態機械と連続機械との差異は模倣ゲームにおいて質問者に何の利点ももたらさないこと、そのことを、はっきりさせることができます。analyser)を取り上げて考えてみたいと思います。先ほどちょっとだけ触れた、アメリカのバネーバー・ブッシュ達が作成した、アナログ式の計算機です。これがちょうど良い例になると思います。微分解析機の中には答えを印字して出力するものがありますので、模倣ゲームに参加するのに相応しいでしょう。デジタル・コンピュータと微分解析機に模倣ゲームを行わせるとします。質問者から出された問題に対して、微分解析機がどのような答えを返すかを、デジタル・コンピュータの側が完全に予想することはできないとは思います。デジタル・コンピュータは、だいたいの正しい答えを出すことはちゃんとできるだろうと思います。いうあれですね、あれを求めるように命令したとします。確率で、ランダムに数字を選びだすと考えるのが筋が通っています。正解に最も近い数値を高い確率で選びはしますが、アナログ・コンピュータのぶれを真似する戦略から、近いけれど微妙に正解とは異なる数値を選ぶこともあるようにしておくわけです。アナログであるということは、このようにある程度の幅というかブレがあるのが特徴ですから、デジタル・コンピュータは、確率を使ってそれをシミュレートしようとするわけですね。このような状態では、模倣ゲームの質問者が、デジタル・コンピュータと微分解析機とを区別するのはきわめて難しいことでしょう。このように、デジタル・コンピュータは、連続機械、アナログ機械を、振る舞いであれば模倣できると思うんですよ。確かに、内部の動作の原理は全く異なっているかもしれませんが、模倣ゲームのように私たちとの対話という状況においては、表に現れる振る舞いがすべてですから、その振る舞いという点では、違いが見えなくなると考えられるわけです。アナログレコードを比べてもらえば、もっと話が早いとは思います。両者は音の記録方法が全く異なるわけですが、最終的にスピーカーから流れてくる音楽においては、普通の人にはほぼ区別がつかないわけですね。それと同じことだと考えてもらえればよいかと思います。神経システムとデジタル・コンピュータの動作原理が異なるからといって、デジタル・コンピュータが神経システムの振る舞い、つまりは脳の活動=思考というわけですが、それを真似ることはできないとは言えないということになります。人間の行動を完全に規則化できるもんじゃない、だから機械に真似することなんてできない、そういう意見があります。この立場からは、次のような意見が述べられるわけです:考えられる限りのあらゆる状況を想定しておいて、それぞれの状況において人間がどのように行動するべきかを記述したものになっている、そういう規則群を形にすることは不可能である。人は普通、信号が赤だった場合には止まり、青だった場合には進むという規則を持っている。止まる方が安全だと判断するだろう。その判断の結果が、後になって色々とやっかいな問題を引き起こすかもしれない。した信号の故障の場合すらも想定した、起こりうるすべての出来事をカバーするような行動の規則を作ろういうのは不可能じゃないのか。この意見に私は賛成します。確かに、すべての状況でのすべての人間の行動を記述したような規則を作るのは不可能でしょう。そこまではいいんですが、そこから先が問題なわけです。人間の行動をすべて規則として捉えることはできないというこの意見をもとに、私たちは機械などではあり得ないという主張がなされます。なんでそういう主張に結びつくことになるのかを説明したいと思いますが、私自身の意見ではなくてあくまでも想像ですので、もしかしたら間違ってるかもしれません。次のように考えるんだと思うんですよね。「すべての人間が、自分の生活を律している行動の規則を持っているとしたら、それもこれがその規則だとはっきりと示せるような形で持っているのだとしたら、人間は機械と同じような存在だろう」という考えから出発します。次に「しかし、そのような人間の行動の規則など存在しない」と続きます。「だから、人間は機械ではあり得ない」という結論が出てくることになります。一見すると三段論法のようですが、これは明らかに間違った三段論法になっています。私も実際にこのままの議論の積み重ねで結論を導いているとは考えていませんが、それでも、主張の背景にある根拠を導く議論としては、ほぼこれと同じものが用いられているのだと私は信じています。そこで、この議論の過程を考察してみることにしましょう。この論理の展開には、「行動の規則」と「振る舞いの法則」との混同があります。「行動の規則」というのは、「赤信号を見たら止まる」という教訓、つまり社会的に定めらたもので、後天的に身に付けた規則ですね、そういうもののことです。私たちは、その教訓にしたがって行動するし、その教訓を教訓として意識することができます。なんで赤信号で止まるのかと子供に尋ねられたら、世間ではそういうことになっているのよと答えるわけですよね。いう社会的・文化的に定まった人為的な規則、歴史的経緯によって「そうなっている」規則というものがあります。それが「行動の規則」です。「振る舞いの法則」というのは、「人をつねれば、その人は悲鳴を上げる」というような、人間の身体に適用される自然法則のことです。こちらは、規則(rule)ではなくて法則(law)です。人間が人間という動物であるかぎり、誰もがそれに支配されているような、言うなれば本能的なものです。人間の「行動の規則」は、確かに恣意的なもので、すべての状況において絶対に貫徹するようなものではありません。人間が人間である限り、どのような状況でも、すべての人間を律しているものなわけです。人生でもあり生命でもあるわけです)、先ほどのような結論は出てこないことになります。人間が「振る舞いの法則」によって律せられているということは、人間はある種の機械であるということになります。その機械は離散状態機械である必要はないわけですが。それだけでなく、逆に言えば、何かが機械であるということはそれが法則によって律せられている存在だということでもある。この2つのことはいずれも真実であると私たちは信じるでしょう。「振る舞いの法則」、本能的な法則、それに律せられている人間は、その点においては、機械と同等であるということです。「振る舞いの法則」といっても、そのすべてが明らかになっているとは言えません。完全な「行動の規則」なんてものが存在しないのと同じようなものですが、私たちは、「振る舞いの法則」の方については、完全なものがないからといってその存在を否定したりはしませんよね。人間である自分にそういう法則が作用していることは確信している。「完全な振る舞いの法則は存在しない、それはちょうど完全な行動の規則が存在しないのとおなじことだ」、こういう主張があっても素直に納得したりはしない。「振る舞いの法則」を見つけ出すために私たちが手にしている唯一の方法は、科学的な観察なわけですが、「十分に調査を行ったけど、そんな法則なんて無かったよ」なんてことはあり得ないと、私たち人間を律している「振る舞いの法則」が絶対に存在していると、そう知っているわけです。「行動の規則」と「振る舞いの法則」といった話を持ち出さずとも、人間は機械ではないという主張に根拠がないということを、もっと力ずくのやりかたで証明することもできます。人間を律している法則のようなものが存在しているならば、私たちは確実にそれを発見することができるとしてみましょう。人間は機械ではないという先ほどの主張は、規則が存在しているなら観察によってそれを見つけることはできるはずだということを根拠に、人間の規則は見つからないから人間は機械ではないと主張しているわけです。何らかの行動を律するような規則が存在するなら、いずれはその規則は見いだせるものだという意見を正しいとしてみましょう。ここに1台の離散状態機械があるとします。規則がいずれは見いだせるというものならば、この機械を十分に観察すれば法則を発見できて、その機械の将来の振る舞いを予想することができるということになります。なるまで、ほどほどの時間、いくら機械が複雑とは言え千年もの時間があれば十分だということになります。実際には、そんなにうまくはいかないようです。私が、記憶容量のうちの1000ユニットしか使わないような小さなプログラムをマンチェスター計算機にのせて、そのプログラムによって機械は16桁の数値を与えられると2秒以内に別の16桁の数値を返すようにしたとします。そんなことは簡単だとおっしゃる方がいらっしゃるのなら、やれるもんならやってみろと私は挑戦状をたたきつけたい。実際は、簡単なものなんかではなくて、たぶん、プログラムに書き込まれている規則を見つけ出すことはできないでしょう。一定の規則に従って動作していることが確実に分かっているコンピュータの場合であっても、その振る舞いの観察だけから規則をきっちり割り出すことなんてできないわけです。機械が相手でもできないのに、人間についてできるわけありませんよね。暗号を考えてみてください。暗号化された情報は、一定の規則に従って変換処理が施されていることは明らかなものです。規則が存在することは分かっていても、暗号化された情報だけをもとにして、それがどんな規則なのかを実際に割り出して元の情報を取り出す、つまり暗号を破るのは大変な作業です。破るのが非常に困難だからこそ暗号化は情報の内容を守るという働きが担えるわけじゃないですか。対象としているものに規則が存在していると分かっていることと、実際にその規則を確定することとの間には大きな違いがある。振る舞いから規則が確定できないことをもって人間と機械を区別しようとするという考えは間違っているということになります。機械は考えることができるかということ、そしてそれを模倣ゲームで判定できるはずだという私の意見に対する、いくつかの批判的な意見を検討してきたわけですが、最後に、超能力というものを根拠に批判する議論についてみておくことにしましょう。ESP)と呼ばれたりするあれですね。いったものは、みなさんも聞いたことぐらいはあるでしょう。テレビ番組なんかで、超能力現象なんてのはよくとりあげられたりしますよね。した人騒がせな現象は、もしそれが本当に超能力の存在を示しているのだとしたら、私たちの通常の科学的な考えのすべてを否定するように思えます。超能力なんて無い、超能力現象といわれてるものはインチキだ、そう言ってみたところで、なかなか聞き入れてもらえなくて、世間にはけっこう超能力を信じている人も多いようです。確かに科学がこの世界のことをすべて解き明かしたとは言えず、いまだに科学的には解明されていないことも少なからずありますので、そういう科学の限界みたいな話を持ち出したうえで超能力の存在は否定できないと言う人は、簡単に説得できるものではありませんね。テレパシーについては統計的にその存在が実証されているなんて意見もあって、超能力を無下に否定することもできない。超能力の存在を認めたとしたら、私たちの世界というものに関する色々な考え方、これまでの科学によって支えられている世界観や人間観といったものを、超能力が存在することに合うように整理し直す必要があるわけですが、それはけっこう難しいことではあります。超能力が存在することを受け入れちゃうと、簡単に、幽霊やお化けが実在することも信じちゃうようになると思うんですよ。私たちの体は、確かにすでに知られている物理的な法則に則って動くものではあるけれども、同時に、まだ知られてはいないけれど似たような法則、つまり超能力を司る法則ですね、そういう法則にしたがって移動もできるんだ。こんなふうに考えるようになると、幽霊だってあり得ると考え始めちゃうまであとちょっとですよね。超能力が存在しているという議論は、私が考えるに、反駁するのがかなり難しいものです。多くの科学的理論は、超能力とはぶつかるかもしれないけれど、依然として現実に用いる点ではちゃんと使い物になるようだ、と答えておくことはできます。実際、超能力のことなど棚に上げておいて、そんなものは無いことにしても、毎日の生活だとかは、何の問題もなくうまくやっていくことはできます。いえ、無かったことにするなんていうのでは、ある意味で負けを認めたようなもんですから、慰めにもならない。私たちが問題にしている思考というものは、まさに中でも超能力が関係している現象で、超能力を無視して議論なんかできないという恐れもあります。そこで超能力が存在するとした上で議論をするなら、どうするか。それを考えてみましょう。超能力を前提にした模倣ゲームというものをやるとしたら、どうなるか。テレパシーをうまく受信できる人とデジタル・コンピュータを被験者とした模倣ゲームをやるとしましょう。質問者は「私が右手に持っているトランプのマークはなんでしょう?」といった質問をすることが許されているとします。人間の方は、テレパシーとか透視によって、400枚のカードについての質問のうち130回が正解するわけです。一方のデジタル・コンピュータの方は、当てずっぽで答えるしかないわけで、104回しか正解しない。すると、質問者は、多く正解したほうが人間だとちゃんと判別できることになります。こんな感じになるとは思います。超能力の存在を認めると、超能力がゲームに及ぼす影響というあたらしい懸案事項が生じてきます。先ほどの超能力模倣ゲームに参加するデジタル・コンピュータは乱数発生装置を持っているとしましょう。当てずっぽの答えを出すために、この乱数発生装置を使うというのは、まぁ、当然のことですね。この乱数発生装置が、質問者の発する念力の影響を受けることだってありうる。念力によって乱数発生装置が影響されて、その結果、コンピュータは、本来のランダムな答えを返す場合よりも正解を多く返すようになってしまったら、質問者は、人間とコンピュータとの判別がやっぱりできないということになるかもしれない。質問者は透視を使うことで、まったく質問をしなくても、どっちが人間かをぴたりと当てられるかもしれない。こんなふうに、念力だとか透視だとか、そういう超能力というものを認めちゃうと、何だって起こりうることになっちゃうわけですよ。テレパシーの存在を認めるのであれば、模倣ゲームの実施条件を、それにあわせて厳格なものにする必要があるでしょう。テレパシーで質問者と人間の間で情報が伝わってしまうというのは、ちょうど、質問者が独り言を言っているのを、人の被験者の方では壁に耳を押し付けて聞くことができちゃう、そういう状況なわけですよね。いうことが起こらないように、私たちは質問者から被験者をちゃんと隔離しないといけないわけです。テレパシーが存在するとなると、テレパシーが遮断されるような部屋、防音室ならぬ防テレパシー室ですが、そういう部屋に質問を受ける被験者を入れておくようにすれば、正しい条件で模倣ゲームが行えることになります。学習する機械さて、私の立場に対する様々な反対意見を取り上げて検討してきたわけですが、反論ばかり延々と聞かされてきたみなさんの中には、私が自分の見解をみなさんにちゃんと納得してもらえるような議論ができないんじゃないかと思われたかたもいるかもしれません。反論の批判をやってるのは、反論ではない自分のちゃんとした意見というものがないんじゃないかと。した議論ができるのなら、こんな反対意見の反駁に労力を使わなくてもいいはずじゃないかと。そこで、ここからは、私の見解を皆さんに納得してもらえるよう、私の立場からの議論を展開することにします。さきほど取り上げたラブレス伯爵夫人の異論へと、ちょっと話を戻すことにします。ラブレス伯爵夫人ことエイダは、機械というものはやれと言われたことしかできないのだと言ったわけです。エイダの言うような機械を、別の観点から説明してみると、たとえば、機械というものはピアノのようなものかもしれないと言うことができます。人間が何かのアイデアを機械に注入することができて、そうすると機械はしばらくの間はそのアイデアに反応して活動するけれども、やがては停止状態へと至る。ピアノの弦がハンマーで叩かれるとしばらくは音を響かせるけれども、やがては沈黙するみたいなもんだというわけです。注ぎ込まれたものに反応することはできても、そこから新しいものが生まれてくることはないということですね。同じように「注ぎ込む」ということで、ピアノではなく、原子炉の核連鎖反応というモデルで考えてみるのはどうでしょうか。エイダの言うような機械というのは、臨界に達しない原子炉であるというわけです。注入されるアイデアが、外部から打ち込まれる中性子にあたります。濃縮ウランの量が少ない臨界未満の原子炉においては、打ち込まれた中性子は原子炉内部の濃縮ウランにいくらかかく乱をもたらしますが、やがて何も起こらない状態へと至ります。原子炉のサイズ(正確には濃縮ウランの量なんですが)が十分に大きくなると、打ち込まれた中性子によるかく乱が継続するということが起きやすくなり、ある規模を越えると核分裂の連鎖反応が続くようになって臨界に達するというわけです。いうのは、中性子を打ち込まれたウラン235が核分裂をおこし、その際に中性子が約2個放出され、その中性子が別のウラン235の核分裂を誘発し...、というが起きることです。臨界未満の状況というのは、ウラン235が核分裂の際に放出する中性子が他のウラン235にぶつからないような状況ですので、これであれば連鎖反応は起きません。臨界に達するかどうかはウラン235の密集度によるわけで、臨界超過の状態というのは核連鎖反応が起きる程度にウランが密集している状況なわけです。原子力発電の場合には、ウランが放出する中性子を制御することで核爆発が起こらないように核連鎖反応をコントロールしているのですが、中性子の制御ができなかった場合なんかは、核連鎖反応が加速していってやがては原子炉を破壊するまでに至るわけです。このように、ウラン235という同じ物質が入った原子炉でも、一定の条件に達したものだけが劇的な反応を見せることになる。人間の精神の場合には、この原子炉のような現象が確かに存在するようなんですね。精神の大部分は臨界未満の状態にあるようです、つまり、ここでのアナロジーにそくして言うなら、臨界に達しないようなサイズの原子炉なわけです。いう精神の場合には、何かのアイデアが提示されても、つまりアイデアが注入されても、よくて一つのアイデアを返すという程度です。新しいアイデアなんか出てこない。ほんのわずかですが、臨界超過のサイズの精神がある。いう精神の場合には、アイデアが提示されると、2番目、3番目などと次々と新しいアイデアが生まれてきて、最初のアイデアからはるかに進んだところまで行って、一つの理論を形づくるまでになるわけです。動物の精神は、間違いなく臨界未満の精神でしょう。「タマネギの皮」のアナロジーで考えてみるのもよいと思います。精神とか脳の機能について考察していると、その働きのいくつかは、純粋に機械的な仕組みとして説明できることが分かります。機械的に説明できるようなものは、真実の精神をとらえたものではなく、真実の精神を見いだすためには剥ぎ取らなければならない皮のようなものである、と言われるわけです。機械的なものは表面的なものでしかなくて、本質はその奥にあるというわけです。科学的に解明するというのは機械的なものとして説明することでもありますから、私たちが精神を科学的に考察するということは、常に皮をつかむというか、皮としてつかむ、そういうことなわけです。何かが解明されるたびに、それは表面的な皮であって、本質は皮の中にあると言われることになる。皮しかないのであれば、結局のところ、精神全体は機械的なものということになるわけですよね。論じたように、精神が機械的なものだとしても、それは離散状態機械ではないかもしれませんが。原子炉やらタマネギの皮の話をしてみましたが、これで世間の人を納得させられるとは思っていません。なんていうか、こういう話をすることで、ちょっとは信じてもらえるかもしれないと思ったわけです。20世紀の終わりには模倣ゲームをうまくこなすようなデジタル・コンピュータを作ることは可能だという私の意見、それを人々に納得してもらうためには、結局のところ、20世紀の終わりまで待ってもらって、その時になって、実際に模倣ゲームの実験をしてみせるしかないように思います。理屈をいくら述べてみても、機械が思考できることを納得してもらうのは難しいので、実際にやって見せて、ほら機械と人間の区別が難しいぐらいに機械がちゃんと応答するでしょって、そうするしか納得してもらえないように思います。いえ、それまでには時間があります。ここからは、デジタル・コンピュータが模倣ゲームをうまくこなせるようにするためにはどうしたらいいのか、その点について考えてみたいと思います。述べましたように、思考する機械の実現のために解決しなければならない問題は、主にプログラミングに関するものです。どのようなプログラムを、いかにして作成すればよいのか、ということですね。機械に関する技術の進歩も必要となるでしょう。こちらの方は楽観視してよいと思ってます。20世紀の終わりにもなって、模倣ゲームを行うために必要となる条件を満たすような機械が作れないなんてことはないでしょう。機械の点で問題になるものとしては記憶容量があるわけですが、この点はまず大丈夫だという見通しがたてられます。脳の記憶容量はどれくらいかということについては、ビットつまり二進数の数で数えたとして、1010という意見から、いや1015じゃないかという意見まで、見積もりに幅があります。私は少ないほうの数値の意見の方に傾いていますし、思考の中でも高度なものを行うときに使われるのは、その記憶容量のうちのほんの少しの部分だけだろうと信じています。脳の記憶容量の大半は視覚的な印象を保持するために使われているんじゃないか。視覚情報を必要としない模倣ゲームを満足にプレイするために必要となる脳の記憶容量がl09を越えちゃうなんてことは、いくらなんでもないだろうと思ってます。Britannica)第11版の情報量がl09ビットなんですね。これを越える容量が必要だというのなら驚きです。l07の記憶容量の機械であれば、今現在の技術でもってしても十分に実現可能でしょう。機械に関する問題としては、実行速度という問題もあるわけですが、実行速度は現在の機械の処理速度を上げる必要はないんじゃないかと考えています。現在の機械の中には、神経細胞と相似したものだと見なせるものがあるわけですが、それらは神経細胞よりも約千倍も早く作動します。この速さによって、色々なことが原因で生じる速度低下に対処できるような「安全のためのマージン」を確保することができます。このように実行速度の点も、模倣ゲームをこなすデジタル・コンピュータを実現するために、特に問題はないと考えられます。問題は、こうした機械を模倣ゲームをプレイさせるためにプログラムするにはどうしたらいいのかを解明するということなんですよ。現在の私の仕事のやり方だと、一日に1000桁のプログラムを作ることができます。同じように仕事がやれる人を60人集めて、50年間休まず働き続けたならば、そしてすべてがうまく行って入力したプログラムをごみ箱に捨てるようなことが全くなければ、そのときには、模倣ゲームをプレイするためのプログラムを作るという仕事をやり遂げることができるでしょう。これは無理というものです。迅速にやれる方法が欲しいわけです。模倣ゲームを満足にこなすようにするということは、成人の精神を真似するようにするということですね。どのようにすればデジタル・コンピュータのプログラムで成人の精神を真似するようにできるかを探求するにあたっては、成人の精神が、今あるようなものになったのはどういう過程を経てきたのかということについて、十分に考える必要があります。成人の精神を作り上げる要素としては、3つのものを挙げることができるでしょう。その他の、教育には含まれない、成長する過程で被った影響これを見ると、成人の精神というものは、成人になるまでに体験したことが大きな要素を占めていることが分かります。それをふまえるならば、私たちは、模倣ゲームをプレイするためのプログラムをどうするのだという問題に関して、成人の精神をシミュレートするようなプログラムを作ろうするんじゃなくて、子供の精神をシミュレートするものを作ればいいのではないか、と思うわけです。子供の精神をシミュレートするプログラムを動かして、それにしかるべき教育の課程を受けさせれば、やがてはそのプログラムは大人の頭脳と同じものになるだろうってわけですね。子供の頭脳というのは、誰もが文房具屋で買えるノートブックのようなものだと思うんですよ。買ってきたばかりのノートブックというのは、知識の書き込み、これがコンピュータではデータとメソッドからなるメカニズムにあたるわけですが、そういう書き込みはほとんど無くて、空白のページがたくさんあるわけですよね。同じように、子供の頭脳にはほんの少ししかメカニズムがなくて、簡単にプログラムできるようなものであると考えていいんじゃないか。子供の頭脳をシミュレートするプログラムを教育する手間というものは、大ざっぱに考えるならば、人間の子供の教育にかかる手間と同じだとみてよいでしょう。このように考えることで、私たちは模倣ゲームをうまくプレイするようなプログラムを作るという問題を2つの部分に分けたわけです。子供の脳をシミュレートするプログラム、これを子供似プログラムと呼ぶことにしますが、それを作るということと、そのプログラムに教育していくという過程との、2つですね。これらの2つの部分は、きわめて密接につながっています。それぞれを別個に試みて、後から合わせるというわけにはいかないでしょう。子供似プログラムを作るということとそれに教育するということは、セットにして色々と試してみる必要があります。子供似プログラムを作ってみても、最初から良い子供機械が見つかるとは思えません。私たちは、作ってみた子供似プログラムを搭載したコンピュータ、子供機械に教育を行ってみて、その機械がどれほどうまく学んだことを身に付けるかを調べてみる、そういう実験を繰り返し行う必要がありますね。最初のやつを試したら、次に別のプログラムを載せた機械で試してみて、結果が最初の機械よりも良いか悪いかを調べるってことをやっていくわけです。子供似プログラムを作っては、それに教育を施してみて結果を見てみる、これを色々な子供似プログラムのバージョンに対して行っていく中で、私たちの目的に相応しい子供似プログラムを見つけることになるでしょう。色々な子供似プログラムを搭載した機械を作って、それらの比較選抜を行うというわけですが、この作業は、生物の進化というものと明らかに同じ過程だと言えるでしょう。自然選択=実験者の判断このように、私たちは生物における進化の過程を真似ることで、私たちが望むような子供似プログラムを手に入れることができると考えられます。自然界での進化よりも、私たちが行う機械の比較選抜の過程の方が、結果を得るのに必要な試行錯誤の時間はずっと短くて済むと期待できますね。自然界での進化の際の適者生存というものは、どれが優位なものなのかを計るのには、えらく時間がかかる方法なわけです。私たちの場合には、実験者は、知性を働かせることで、この選択の処理をスピードアップさせることができるはずです。重要なこととして、私たちの実験の場合には、変異をランダムなものに限る必要はないということがあります。自然界においては、変異というものはランダムな突然変異によってしか起こらないわけですが、私たちの実験の場合には、子供機械の何か弱点の原因を突き止めることができたなら、その点を改良するような変異、改良といった方がよいかもしれませんが、それを考えて、新たな子供似プログラムを作ることができるわけです。このように、実際に色々なバージョンを作って動かしてみてながら、中から最良のものを選択していくという進化的な手法をうまく用いることが有効だと考えられます。普通の子供とまったく同じ教育を機械に受けさせることは無理でしょう。機械には足が付いていなかったりするわけで、そうすると、外に行ってストーブのための石炭入れを一杯にしてきなさいなんて命じることはできないわけです。目だって付いていないかもしれません。このように、機械は普通の子供とは「体」の作りが違うわけです。技術的にこれらの問題がうまくカバーされて人間らしくなったとしても、その生き物らしくなった機械が学校に行けば、周りの子供たちに思いっきりからかわれるのは避けられないでしょう。機械には、個人授業のような、特別な教育を施してやる必要があります。足とか目が付いていないということは、あまり心配する必要はないと思います。ヘレン・ケラー女史のことはみなさんもご存知とは思いますが、あのように、何らからの方法で教師と生徒との間で双方向のコミュニケーションができさえすれば、教育というもの成り立つものなのです。私たちの機械は、足や目は付いていないかもしれませんが、入出力の仕組みは備えているわけですから、ちゃんと教育はできるものと思います。教育というと、罰と報酬、いわゆるアメとムチを思い起こす人も多いと思います。教えられたことをうまく覚えたならば褒美をあたえ、間違ったならば罰を与えるというあれです。子供は、なるべく褒められるように、あるいはなるべく罰せられないように、一生懸命勉強するわけです。このような行動原則に従う簡単な子供機械を作ることができます。作るというよりプログラムするというべきかもしれませんが。そのような機械は、罰の信号が後から付いてきた出来事はなるべく繰り返さないようにし、一方で、報酬の信号が付いてくるような出来事がなるべく多くなるようにする、そういう行動を取るように作られる必要があります。いえ、この機械が、罰とか報酬の信号に対して、何らかの感情をいだくというわけではありませんし、それが必要でもありません。罰とか報酬を意味する信号によって、出来事の意味付けができればよいだけです。私は、そうした子供機械の実験をいくつか行ってきました。わずかのことですが、機械に教えることに成功しています。私の実験での教育方法は、教育として正統でまっとうなものとはとても言えるものではありませんので、私の実験が本当に成功したとはいえないと考えています。罰と報酬、アメとムチの方法の使用は、せいぜい教育の過程の一部でしかあり得ません。大ざっぱに言って、教師から生徒へのコミュニケーションの手段が他にない場合には、生徒が受け取ることができる情報の総量は、アメとムチによる訓練が行われた回数を越えることはできません。知識を伝達するのに最良の教育方法ではないのです。いう詩、船が燃え盛り沈んでいく状況にあっても父に命じられた自分の使命を全うしようとする少年を歌った道徳臭い詩だったりするんですが、それを暗唱させられたりしました。いうときに、間違うごとに殴られるという方法で詩の文章をたたきこまれたとしたら、教えられる子供の側は、詩を暗唱できるようになるまでに、とてもムカツクし惨めな気持ちになりますよね。それは知識の伝達としては、決して、よい経験ではないと思います。罰と報酬の方法には、知識の伝達以外の、感情的な要素が多すぎるわけです。子供機械の教育の場合、教師と生徒の間のコミュニケーションのために、なんらかの「感情的ではない」チャンネルが必要になります。何かを行ったとき、それが「間違っていた」という情報は必要ですが、そのことに教師が怒っているということや「罰せられ恥ずかしく思え」といったことなどは、情報としては必要ありません。「感情的でない」チャンネルが使えるのであれば、アメとムチの方法を使って、何らかの言語、たとえば記号言語によって与えられた命令に機械が従うように、教育を行うことが可能になります。機械が従うべき命令は、「感情的ではない」チャンネルを通じて伝送されるべきです。このように、「感情的ではない」チャンネルを通じた記号言語の使用による教育は、結果として、アメとムチの方法を必要とする回数を劇的に減らすことだろうと思います。子供機械がどの程度複雑なものであるべきかということに関しては意見が分かれるだろうと思います。一般原理だけに従うようにした、なるべく単純なものとして作ろうとする人もいるでしょう。別の立場の人は、完全な論理的推論のシステムを「組み込む」ようにするでしょう。このような推論システムを組み込んだ場合には、記憶領域のかなりの部分が定義と命題によって占められることになります。そこに蓄えられる命題は、様々な種類の状態のものが含まれるものになるでしょうね。証明された定理、権威に裏打ちされた声明、論理的命題の形をしてはいるが真偽は定かでない表現(式)など、命題といっても色々あるわけで、そういった色々なものが蓄えられることになります。いくつかの命題は命令の形で書かれたものになると思われます。与えられた命令が、確定した事実に分類されるものであった時には、すぐさましかるべき行動が自動的になされる、そんなふうに機械が組み立てられる必要があります。具体的に説明してみましょう。教師が「今すぐ宿題をしなさい」と子供機械に告げたとします。機械の方は、その言葉を聞いて、「先生が『今すぐ宿題をしなさい』と言った」という命題を、事実として確定している命題群の中に含めることになります。した事実として受けとめるべき命題群の中に、「教師が言ったことはすべて真実で正しい」というものもあったとします。すると、この二つの命題を結びつけることによって、「今すぐ宿題をしなさい」ということが命令として受け取られ、それが事実を記述した命題として整理され、子供機械はそういう命題に従うように作られているわけですから、結果として宿題を始めることになります。満足するような結果が得られるというわけです。このように、子供機械は自分の中に蓄えられた命題をもとに推論を行うわけですが、機械が用いる推論の過程は、最も厳密な論理学者をも満足させるようなものである必要はありません。論理学者がこだわる論理の型の区別といったことは、なくてもよいと思います。いって、子供機械の推論の際に論理の型の誤りが頻繁に起きることはないと思います。私たちが、柵がないからといって崖から必ず落ちるわけではないのと同じようなものです。推論のシステムの枠の中で言われた命令であって、システム自身を決めるような規則を言った命令ではない、そういう適切な推論の仕方の命令を与えておけば、十分に役に立つでしょう。論理学的な表現になりますが、たとえば「何らかのクラスは、それが教師によってすでに言及されたもののサブクラスでない限り、用いてはならない」という推論の仕方の命令を与えておけばいいわけです。この命令は、大ざっぱに言えば、「新しいもの(それは知識とか行動の指針とか色々あるでしょうが)は、それまでに許されたことや確実だと分かったことにだけ基づいて作り出せ」ということだと言ってもよいでしょうが、これは「崖の方に近づきすぎてはいけない」という命令と同様の効果をもたらすことができるはずです。手足を持っていない子供機械が従うことができる命令は、先の「宿題をしろ」という命令のように、身体的なものではない知的な性格のものに限られることになります。そのような命令の中でも特に重要なものは、論理システムのルールを適用する場合の順序を規制するものでしょう。論理システムを用いて推論を行う場合、推論の各ステップにおいて、選択可能な次のステップはきわめて膨大な数にのぼります。論理システムの規則に従っている限り、その選択可能なステップのどれもが適用可能なものなわけです。いうときに、どのような選択を行うかということ、これが才能に溢れた優れた論者とばかげた論者の違いを生み出すことになります。どちらの論者も推論の規則に従っているという点では、ちゃんと根拠を持った論者なのであって、ばかげた推論を行うからといって、推論を誤った論者ではないことは注意してください。論理的な推論を行う場合でも、推論の際の選択によって、論理の違いが生じてくるわけです。推論の際の選択をどのように行うかということに関する知識、その教育が、知性の質に違いをもたらすわけで、それを教える命令というものは、子供機械の教育において重要なのです。三段論法を用いよ」とか、「ある方法が別のものより早いことが証明されていたなら、遅い方の方法は用いるな」といったものになると思います。した命題のいくつかは「権威によって与えられたもの」、つまりそれに従うことが有効なことがすでに十分に知られて確かめられているものとして教えられた命題になるでしょう。それ以外にも、機械自身が作り出したもの、つまり子供機械が自分の経験の中で科学的帰納法によって得たものも出てくると思います。呼ばれるものがあります。いずれも人名になっていますが、それぞれの人名に含まれる母音が、推論の際の命題の型を示しているんですよ。3つになっていて、これは全称肯定(すべてのAはBである、って型のやつです)を3つ重ねた推論を指しています。皆さんもどこかで目にしたことはあると思いますが、すべての人間は死ぬべき運命にあるソクラテスは人間であるそれゆえソクラテスは死ぬべき運命にあるという型の三段論法を指します。2番目の第二前提が「すべての〜」になってませんが、ここは「すべてのソクラテスは」ということだと取れば、ちょっと苦しいとこですが、分かるかなと思います。三段論法ってわけなんですね。ソクラテスの名前があるといかにもアリストテレスが言いそうだなと思ったりするんですが、アリストテレス本人はソクラテスといった固有名は三段論法には含めないことにしてたみたいです。このソクラテス云々って例は、後の世の人が、三段論法に固有名詞も含めちゃうことにしちゃって、それから作られて広まったもんみたいです。皆さんの中には、学習する機械という考えそのものがパラドックスじゃないかと思う人もいることでしょう。それは規則というものが変わるという点を考えると見えてきます。処理の規則というものは、その学習する子供機械が、どんな経験を経てきたものであれ、あるいはどんな変化を被ってきていようとも、そうしたことには関係なく、機械がどのように反応するかを完全に記述するべきものであるはずです。規則というものは、まさに時間による変化がないもの(time-invariant)であって、だからこそ規則なわけですし、そういう規則に則って動くのが機械なわけです。これは紛れもない真実です。すれば、学習によって自己の動作原理を変えていく学習機械ってのは、そもそも規則によって動いている機械というものでは無理なんじゃないか、機械が学習するなんていうのはパラドックスじゃないのか、このように考えることもできるわけです。パラドックスであるからには、そういう学習する機械なんてものは実現できないという意見につながることになります。このようなパラドックスではないかという意見に対しては、次のように答えておくことができます:規則といっても色々なものがあるわけで、学習の過程で変化を被る規則というのは、行動の根幹に関わるような重要なものではなくて、その時々の状況においてとりあえずの正しさを規定するようなものでしかない、と。いうなれば、状況に依存した運用規則が変わっていくだけで、根本にある規則は変化しないのだということです。アメリカ合衆国憲法のようなものだと言えば分かってもらえるかもしれません。合衆国の憲法は、憲法のオリジナルの条文は変えることなく、時代時代に、状況に対応して修正条項を追加するという形で運用規則を変えてきているわけです。有名なものとしては、ギャング映画などでお馴染の禁酒法が修正第18条で規定され、後になって、修正第21条によって廃止されているというのがあります。この合衆国憲法の修正条項にあたるものが、学習する機械が学習の中で変えていく規則にあたります。このように、規則といっても色々なレベルのものがあることをふまえれば、学習する機械というのはパラドックスでも何でもないわけです。学習する機械の重要な特徴の一つとして、教える側の人間は、機械の内部で何が起こっているのかということに関しては、たいていの場合、ほとんどわからないままだろうということがあります。いえ、学習する子供機械の内部で何が起こっているのか分からなくても、教師は、生徒たる機械の行動をある程度は予測できることでしょう。このこと、つまり機械の内部が分からないこと、機械がブラックボックスと化すこと、それは、試行錯誤を重ねて設計されプログラムされた子供機械が、学習を積み重ねていって成長してきた段階で、鮮明になってくることです。機械の内部状態が見通せないということは、機械を計算処理に用いる通常の場合とは好対照をなしていると言えます。機械に計算をやらせる通常の場合は、人は、計算の各段階において、機械の状態がどうなっているのかをはっきりと頭の中に描くということをする必要があります。機械がどのように状態を変化させていくのかを明確なイメージとして精神に描くことで、ちゃんと計算を処理できるという確信が得られるわけですね。それに対して、学習する機械の場合は、機械のその時々の内部状態を思い描くということは、かなりの苦労をへてやっとこさなんとかなるということなわけです。学習するということは、内部の状態を機械が自ら変えていくことといってもいいわけですから、外から見てる人間には、なかなか内部は伺い知れないものになっていくということです。すると、先ほどのラブレス伯爵夫人の意見にあったような「機械は、私たちがどうやって命令したら良いか分かっていることしかできない」という見解は、学習する機械はブラックボックスへと成っていくという事実を前にすれば、奇妙なものに思えてきます。学習する機械に入力できるプログラムの大半は、学習の過程を経た後には、実行すると、私たちにとって全く意味不明のことを行うとか、まったくでたらめ行動を行っているとしか思えないことをする、そういう結果になると思うんですよね。学習によって、最初のプログラムで命じたこととは別のことをするようになるわけですから。学習機械は、私たちがやりかたを示して命じたことしかできないというわけではないということです。そもそも、知的な行動というのは、おそらく、計算処理に含まれている完全に規定された行動からは離脱すること、でたらめな行動や無意味な無限ループには陥ったりしない程度のちょっとした離脱、それによって成り立っているのではないでしょうか。いう意味で、学習する機械が、最初に与えられた規則から逸脱していくというのは、知的なものになるということだと言えるのではないでしょうか。このように、模倣ゲームに参加できるようにと機械に教育と学習の過程を施すと、機械の内部で起こっていることが見通せなくなってくるわけですが、それとは別にもう一つの重要な結果が生じます。fallibility)」というものは、学習の過程において自然な成り行きで取り除かれていくものだということです。特別に何か指導をする必要はない。学習によって身に付いた処理過程は、100%確実な結果を生むものではありません。過程が100%確実な結果を生むのであれば、その過程は生得のもの(習わないで得たもの)のはずがないのです。学習する機械に乱数発生装置を付けておくというのは賢いやり方でしょう。何かの問題の解決方法を探る場合に、乱数発生装置というのは役に立つものです。50から200の間の数値から、その数字の各桁を足し合わせたものの2乗が、もとの数値と同じになるものを見つけたいとします。いう具合に条件に見合う数値が見つかるまで順に確かめていくという方法をとることもできます。別の方法として、ランダムに数値を選んでいって条件を満たすものを探すという方法もあるわけです。このランダムに選んでいく方法は、どこまで調べたかという記録を保持しておく必要がないというメリットがありますが、一方で、同じ数を2度調べてしまうかもしれないという不利な点もあります。条件を満たす解が複数存在しているならば、この欠点はあまりたいしたことではありません。数を順に調べていくというシステマティックな方法は、最初に調べるべき領域は解が一つも存在していない膨大な数値群かもしれないという点が不利なわけです。解が見つからないままに延々と作業を続けなくてはならないこともありうるわけですね。ランダムに調べる場合は、運が良ければ一発で解がみつかるかもしれないってわけです。ちなみに、先ほどの条件を満たす数としては81があります。そこで、学習過程というものは、教師を満足させる、あるいは何かの基準を満たす、そういう行動形式を探索することだと見なしてみましょう。この場合は、条件を満たすような解は非常に多く存在しているでしょうから、ランダムに調べていくという方法のほうが、システマティックな方法よりも適しているように思えます。いう意味で、学習機械に乱数発生装置を付けておくというのは有効だと言えるでしょうねなお、ランダムに解を探していくという方法は、生命の進化のプロセスで用いられるものと同じだということは言っておく必要があります。生命の進化においては、システマティックな方法を用いることは不可能です。遺伝子の組み換えが起きる際に、それまでに行った組み合わせをすべて記録しておいた上で、同じ組み合わせを2度と行わないようにする、そんなことができるわけありません。私たちの学習機械も、それに倣うことができるわけです。すべての純粋に知的な領域で、機械が人間と競い合うようになる、そう期待してもいいでしょう。これは難しい判断ですね。多くの人は、チェスをするといった非常に抽象的な活動に取り組むことから始めるのが最良だと考えています。別の人は、機械に、お金で手に入れることができる最良の感覚機器を取り付けて、日常語を理解し話すことができるように教育する、それがいちばん良いのだと主張するでしょう。この日常語の教育であれば、その教育の過程は、子供に言葉を教える通常の教育過程を適用できるでしょう。何かを指し示して、名前を教える、といったことなんかをやっていくわけですね。私には何が正しい答えなのかは分かりません、が、しかし、両方のアプローチを試してみるべきだと考えています。私たちは、ほんの少し先のことしか見通すことができません。それでも確実に分かっていることは、やらなければならないことは山ほどあるということです。コメント煩雑な注や解題を加えなくとも、本文だけを読めばいいようにしたいということで作成したページであるので、ここに解題めいたものを書くことは余分というか、自分の作業の不備を認めるようなことではあるのだが、いわゆるチューリングテストに関して、少しだけコメントを書いておく。この論文でチューリングが定式化した、機械が思考できるかどうかの判定方法、彼自身の言葉で言えば模倣ゲーム、それがいわゆるチューリングテストなのであるが、この論文中において、2つの異なったゲーム形式が存在し、チューリングはその差異を気にしていないのである。論文の冒頭で模倣ゲームが導入されるわけだが、この時点では、模倣ゲームとは、コンピュータがどうこうといったこととは関係ない、人間が行う性別判定ゲームとなっている。その模倣ゲームの参加者の一人(騙し役の方)をコンピュータに取り換えた場合に、人間の場合と同じ程度にコンピュータが質問者を騙せるかどうかで判定する、というのが、最初の段階のチューリングの模倣ゲームによる判定である。人間だけで行われる模倣ゲームと、コンピュータが参加した模倣ゲームと、2つの模倣ゲームをプレイして、その結果に差が生じるかどうかが問題なのである。差が生じないのであれば、コンピュータは人間と同じように模倣ゲームをプレイできるということであり、その時はコンピュータは思考していると言っていいだろうというのがチューリングの主張である。同じ条件下での人間のプレイとコンピュータのプレイの比較を行うということであり、コミュニケーションにおける両者の振る舞いの比較である。これはこれで筋が通っている。論文中においてチューリングが最終的に定式化した模倣ゲームによる判定方法は、人間とコンピュータが模倣ゲームを行った時にコンピュータは質問者をどれだけ騙せるか(人間だと思い込ませることに成功するか)で判定するというものになっている。これが一般的に理解されているチューリングテストにあたる。正確には、チューリングはあくまでも理論的な可能性しか問題にしていないので、コンピュータが騙せると考えることは正しいのか、という理論的な問い掛けになっている。論文執筆時点のチューリングは、あくまでも理論的に可能であることは確信しているが、その時点では現実的には無理であることは分かっていて、このような形で定式化したと考えられる。いう意味では、「実際に騙せるのか?」という実践的な問いと、「騙せる理論的可能性はあるのか?」という理論的な問いの差異、その差異は、チューリングテストとして話が広がるうちに消えてしまったと言えるだろう。そのことはともかくとして、このチューリングの模倣ゲームの最終定式化の問題点(あえてこう言うならば)は、最初にあった2つのゲームをプレイして比較するというちゃんとした検証法ではなくなってしまったことにある。人間と同等に振舞えるのかということを、人間の振る舞いとの比較で検証するのが最初の模倣ゲームだったのだが、最終的な定式化の方では、人間の振りができるかどうか(人間を騙せるかどうか)で検証するものにすり替わっている。このように、チューリングの模倣ゲームは、この論文の中での展開で、厳密さを欠いたものになったと考えることができる、と、少なくとも私は思う。二つの模倣ゲームの差異は、私がこだわるほどには大きくないのかもしれない。この論文や他の手稿を読む限りでは、チューリング自身は、機械は思考することを確信しており、いかにそれを他の人にも納得してもらうかという点に焦点がある。模倣ゲームというものも、機械が思考していることを人に納得させるための効果的なデモンストレーションの形態として考えているようにも感じられる。デモンストレーションであれば、それこそ質問者の位置に人を連れてきてプレイヤーとの会話を行わせ、ほ〜ら、どっちがコンピュータかなんて分かんないでしょ?ってやるのが効果的だろう。いう意味では、最終的な定式化の模倣ゲームが厳密性を欠いているなんてことはどうでもいいことなのかもしれない。チューリングの模倣ゲームは、最初の段階では、いわゆるチューリングテストと言われているものとは異なったものであったのだということが、私自身がこの論文を読んだときに何より強く印象に残ったことだったので、こうして解題めいたものとして、ちょっとだけコメントを書いておくことにした。田中の授業と研究に関するページ田中求之のサイトのトップページ。