要約ジャパンスケプティックスの目的は疑似科学を批判的に研究することである。それには合理的な理由がある。人間の頭脳はそのようにできているのだ。疑似科学に限らず、人間の考えには錯覚、認知バイアス、偏見、思い込み、レッテル貼りなどの非合理な考え方にあふれている。それは人間の大脳は迅速な判断をするための機構が組み込まれているからだ。この合理的な仕組みが非合理な思考の原因である。人間の思考には二つのモードがあることが知られている。これを思考の「二重過程理論」と呼ぶ。)に詳しく解説されている。二重過程理論はいろんな学者がいろんな文脈で論じているが、基本的な考え方は同じである。人間の大脳にはモード1とモード2、あるいは「自律的システム」と「分析的システム」と呼ぶ二つの思考のモードがあるというのだ。自律的システムとは外部からの刺激に対して自動的に迅速に処理するシステムで、意識的な制御が難しいシステムである。それに対して分析的システムとは言語や規則に基づいて処理を行うシステムである。呼ぶこともできるだろう。行動経済学を創始したことで有名な心理学者のカーネマンは「速い思考」と「遅い思考」という言葉を使っているが、基本的に同じような分類だ。考えれば、なんということもないのだが、体が受け付けないのである。そんなことが起きるのか。実はそれには生物としての人間の生存に重要な意味がある。不潔な(あるはそう見える)ものを食べると体に悪いと脳に刷り込まれているのである。非合理に見える行動にも合理的な理由があるのだ。囲碁や将棋などに特化した特化型人工知能(専用人工知能)と人間のように一応は何でもできる汎用人工知能がある。現状の人工知能は全て特化型であり、汎用人工知能はまだ存在していない。汎用人工知能を作ることが、人工知能研究の一つの目的である。人間の知能を遥かに凌駕した汎用人工知能を超知能と呼ぶが、それが完成すると人類の歴史に大きな影響が及ぶことが予想される。そのため、世界では現在激しい超知能開発競争が展開されている。いろんな方向性がある。その一つに人間の大脳新皮質を模倣するというアプローチがある。人間の大脳新皮質は、我々が知るかぎりにおいて汎用人工知能が実現している唯一の例である。それを研究して、それを真似るというアプローチはリバース・エンジニアリングと呼ばれている。空を飛ぶという目的を立てた時に、鳥の飛び方を研究してそれを真似るというアプローチである。鳥そっくりのものを作るのが目的ではなく、鳥の研究はあくまでも飛行の原理を知るためである。おいても、人間そっくりなロボットを作るというアプローチもあるが、もう一方で人間の思考形態を模倣しながらも、人間よりはるかに強力な機械知能を作るというアプローチもある。鳥を作るのか飛行機を作るのかの違いである。そのためにはまず人間の脳を勉強する必要がある。脳のなかで働くアルゴリズムを解明して、それをシリコンチップの上で実現するのだ。その勉強の中で、人間の思考の非合理性の原因が見えてきたのだ。大脳新皮質の階層と脳の働き動物の脳のなかで哺乳類の脳が他の生物、例えば爬虫類などにくらべるとずっと進化している。哺乳類の中でも特に人間の脳は発達していて、我々が知るかぎり宇宙の中で最も複雑な構造と言われている。脳は様々なパーツからできている。そのなかで大脳と小脳がよく知られている。そのほかにも中脳、間脳もあるが、本論で重要なのは大脳である。様々なパーツからできている。大脳基底核は運動の制御、海馬は記憶の固定、扁桃体は情動をつかさどる。人間の思考にとって最も重要なパーツは新皮質である。新皮質は厚みが2ミリメートル、面積は新聞紙を二つ折りにした程度の薄い膜である。それがシワシワになり頭蓋骨の中に畳み込まれている。狭い頭蓋骨の中でできるだけ広い面積を占める工夫である。新皮質は52のブロードマンの領野とよばれる部分に分かれていて、それぞれが特定の機能を果たしている。最近の研究ではもっと多くの領野に分けられている。後頭部には視覚関係の複数の領野があり、これが新皮質のかなりな部分を占めている。人間にとって視覚が極めて重要だからだ。耳の付近には聴覚野、頭の頂点付近には触覚野(体性感覚野)、その前方に運動野がある。言語は左脳の側面にある複数の領野が担当する。高級な思考は額のあたりの前頭葉にある領野で行われている。これらの領野は上下の階層構造をなしている。V4その他の領野に分かれている。網膜から来た視覚情報は、間脳にある視床を中継点として、まずV1野に入力される。V1野では短い線分のようなものが認識される。V1野で処理された情報はV2野に伝達され、そこでは線分の組み合わせのような、少し複雑なパターンが認識される。その情報はさらに上の階層の領野に伝達される(厳密にはV2から上は2系統に分かれる)。最上階の階層では、例えば特定の人物の顔が認識されたりする。脳を手術中の患者の新皮質のある部分を刺激したとき、女優のジェニファー・アニストンを思い出したというジェニファー・アニストン細胞は有名である。昨今大流行の深層学習(ディープラーニング)は、上記の機構を再現して、視覚の機構解明に成功したと言われている。新皮質の働きと深層学習しかし私は現在の深層学習が脳の機能をよく模倣しているという主張には多少、違和感を持っている。深層学習で画像認識を行うには次のようなステップを経る。ネコの写真を人工知能にたくさん見せて、それがネコという名前であることを教える。犬の写真を見せて、犬という名前であることを教える。これを教師あり学習という。ところが、人間でも動物でも視覚を訓練するのに、教師あり学習をしているわけではない。確かに人間の子供の場合、お母さんが「あれは犬よ」とか「これはネコよ」と教えるであろう。これは言語の学習であり、視覚の訓練ではない。動物が視覚の訓練をするのに、例えば母ネコが名前を教えたりはしない。動物も人間も教師なし学習が基本である。現在の深層学習は学習速度が非常に遅いという欠点を持っている。ネコならネコの写真を数千、数万と見せないと学習できないのだ。人間を含む動物ではそんなことはない。一、二度の学習ですむ場合もある。その意味で、現状の深層学習が脳の基本的アルゴリズムであるとする説には疑問がある。脳のフィードバック情報の重要性もっと重要な差異がある。脳におけるフィードバック情報の重要性である。先に網膜から来た視覚情報のような知覚情報は、まず最下層の領野に入り、そこで一定の処理がなされて、その処理された情報が上の階層の領野に伝達されると述べた。これをフィードフォワード(あるいはボトムアップ)情報という。深層学習は基本的にフィードフォワード情報のみを利用している。深層学習を少しでも知っている人なら、そこには逆誤差伝播(バックプロパゲーション)という仕組みがあり、これがフィードバック情報と思われるかもしれないが、それは違う。私がここで述べるフィードバック情報と逆誤差伝播は全く別の仕組みである。逆誤差伝播のような複雑な仕組みを脳が備えているとは考えられない。新皮質の領野間を結ぶ軸索とよばれるケーブルがたくさん脳内を走っている。この接続のことをコネクトームとよぶ。下の階層から上の階層に情報を伝達する軸索よりも、逆の方向に情報を伝達する軸索の方が、むしろ数が多いくらいである。それほどフィードバック情報は人間の脳の働きにとって重要である。人間の思考の不合理性は、このフィードバック機構に由来するというのが私の主張である。それは認識という脳の働きにとって本質的に重要であり、効果的に働くからである。これがなければ正しい判断を迅速に下せない。その意味ではきわめて合理的なのである。この合理的な仕組みが、同時に人間の非合理な思考の根源であるというのが私の考えだ。ベイズ確率とベイジアンネットワーク理論ここで話を神経科学から数学に移す。ベイズ確率と言われるものの話をする。これが人間の大脳の働きに本質的な役割をはたすと私は考えている。ちなみにベイズとは18世紀の英国の牧師トーマス・ベイズのことであり、後で述べるベイズの定理で有名である。この節の話は少し数学的なので、興味がない読者は飛ばしてもよい。そのために話の要点だけまとめておこう。大脳はベイジアンネットワーク理論と呼ばれる数学理論で記述できる可能性が高いこと、その場合、脳内では情報が上下に走り回ること、特に上から下に降りるフィードバック情報が重要であること、それが効果的な迅速な判断を可能にすること、しかし逆にそれが錯覚、思い込み、偏見、レッテル貼りなどの非合理性の原因であるというのが、私の主張の根幹である。硬貨を投げた時に、表が出る確率は50%であると言われる。そのことの意味は、硬貨投げを多数回、例えば1000回行った時に、表が出る場合の数はほぼ500回だということだ。このような確率の定義を頻度主義とよぶ。確率には別の定義もある。天気予報において、明日雨が降る確率は50%であるという時に、この確率は頻度主義では説明できない。明日の天気は何度もあるわけではなく、一度限りだからだ。適切な例としては、例えばヒラリー・クリントンが大統領になる確率は60%であると聞いたとしたら、この確率は一度限りの事象であるので、頻度主義では説明できない。そのように頻度主義で説明できない確率を扱うのがベイズ確率である。事前確率と事後確率という概念がある。事前確率とはある事象が起きる前に、その事象が起きる確からしさをいう。硬貨投げで表が出る確率は50%というのは事前確率である。事後確率とは、特定の事象が起きた後で、その事象の原因がXであった確率をいう。因果関係という概念がある。原因があって、結果が起きるということだ。原因が分かっていて、それである特定の結果が起きる確率は事前確率である。逆に結果が分かっていて、その原因が特定の事象である確率が事後確率である。わかり易い例をあげよう。病気と症状の関係である。この場合、病気が原因で症状は結果である。風邪(原因)をひくと発熱する(結果)確率は60%だとしよう。それはたくさんの症例から分かっている。発熱の原因は風邪だけではない。インフルエンザにかかると発熱する確率は例えば90%としよう。結核に罹患すると発熱する確率は60%、下痢をすると発熱する確率は5%とする(ここに上げた数値は適当な当て推量である)。医者が患者の診断を行うとき、症状(結果)をみて病気(原因)を推測する。患者が発熱しているとして、風邪かもしれないし、インフルエンザかもしれない、または結核かもしれない。殆どありそうにないが、下痢かもしれない。医者が患者の発熱という結果を見て、その原因が風邪である確率が70%であるとしたら、その確率が事後確率なのである。発熱という症状をみて、風邪である事後確率を推定するのである。医者の診断とは事後確率を使って結果(症状)から原因(病気)を推測することである。症状のことを証拠(Evidence)ともいい、病気のことを仮説(Hypothesis)ともいう。このように証拠から仮説を推定することを統計的因果推論とよび、ベイズの定理が使われる。お医者さんはベイズの定理など知らないかもしれないが、経験的にそれを使っているのである。診断という行為は基本的に統計的因果推論である。ベイズの定理について簡単に述べる。ここは数学的な話であるので、興味がなければ飛ばして構わない。いま事象AとBがあるとする。事象Aが起きたあとで事象Bが起きる確率(事後確率)をP(B|A)と表す。Aが与えられた時(given)のBの確率という意味だ。この逆にBが与えられた時にAが起きる確率、つまりP(A|B)を、もっともらしさ(尤度)という。ベイズの定理はこの二つを次の式で関係付ける。P(B|A)=P(A|B)P(B)/P(A)である。先の病気の例で言うならAが症状でBが病名である。ここでP(B)はBの事前確率(Prior)という。あとで述べるがこの事前確率が問題なのだ。この例では因果の流れはB->Aと表現できる。分母のP(A)は比例定数なので、今後の議論からは省いてもかまわない。するとベイズの定理はP(B|A)∝P(A|B)P(B)となる。Aが発熱という症状(結果)で、Bが風邪という病気(原因)とする。その場合、患者が風邪である確率はP(A|B)=P(発熱|風邪)=0.6と、病気の中で風邪が占める割合(例えば90%だとして)P(B)=0.9であるから、これらの積、つまり0.6x0.9=0.54に比例する。ところがBを結核とした場合、結核が病気に占める割合は例えばP(B)=0.0001と極めて低いので、発熱症状を示した患者が結核である確率はP(発熱|結核)=0.6とP(結核)=0.0001との積、つまり0.6x0.0001=0.00006に比例する。結核になると発熱する確率は高いのだが、発熱したからといって結核である確率は極めて低いのである。ここがベイズ的な因果推論のキモである。ガン検診で、ガンだと陽性になる確率は高いが、検査で陽性だからといってガンである確率は高くない。以上に簡単に紹介したベイズ統計にもとづく、結果から原因を推論する手法を統計的因果推論とよぶ。上の例では因果の流れはA->Bと簡単だが、実際はもっと複雑な入り組んだ因果の連鎖でも適用できて、ベイジアンネットワーク理論として知られている。合理的な数学的な理論である。話を大脳新皮質に戻そう。先に述べたように、新皮質は多くの領野から構成されていて、それは階層的構造になっている。下の階層には網膜や鼓膜からの知覚情報が流れこむ。その情報は上の階層にいくほど、抽象的な表現になり、階層の一番トップでは言語的、数学的な高度な思考になる。情報の流れは、下から上に流れるフィードフォワード情報と、それとは逆に上から下に流れるフィードバック情報からなる。これをベイジアンネットワークと考えることができる。いま中間にある領野を考える。一つの領野には数億個のニューロン(神経細胞)があり、それが発火していたり、いなかったりする。ある時点で特定の数のニューロンが発火していて、次の瞬間には別の一群のニューロンが発火する。このようなニューロンの状態を、ベイジアンネットワーク理論の言葉では信念(Belief)と呼ぶ。信念といっても「あの人には信念がある」といった類の信念ではなく、ニューロンの発火状態のことをそう表現するだけだ。領野内のニューロンの発火状態を、ベイジアンネットワーク理論では確率変数で表し、確率変数のある状態を信念と呼ぶのである。ある領野の信念は、下の階層から上がってくるフィードフォワード情報(証拠)と、上の階層から降りてくるフィードバック情報(事前確率)の両者で決まる。数学的に具体的に言えば、信念は下からくる尤度と、上からくるフィードック情報の確率の積になる。数学的な話は忘れても良い。新皮質の領野の状態は、単に下から上がってくる知覚情報だけではなく、上から降りてくる情報が重要な役割をはたすということがキモなのである。大脳新皮質で情報の流れがこのように上下の双方向になっていることは、知覚と認識にとって非常に効果的である。下の階層から上がってくる知覚情報だけしかないとしよう。その場合は認識がノイズに極めて弱くなる。その画像に沢山のシミ(ノイズ)があったとしよう。そのシミが本来の属性なのか、単なるノイズなのかはそれだけでは分からない。上の階層に、本来見えるべき画像のモデルが蓄えられていたら、下からくる情報と上にある情報を比較して、シミはノイズであり、除去すべきものであることがすぐに分かるだろう。画像の一部が隠れていたとしよう。人の顔が物に隠れて半分だけしか見えない状態を想像しよう。視覚情報をそのまま信じれば、半分だけの顔というものがこの世に存在することになる。それを否定すべき根拠はない。我々はそんなふうには考えない。隠れた残り半分の顔を想像で補うはずだ。上の階層の領野に、完全な顔というモデルが保存されているので、それと比較して、隠れた残り半分の顔を容易に補完できるのである。ネットを使っているとCAPTCHAという仕組みに出会うことがあるだろう。入力を要求された時に、変に歪んだ字を読むことを要求されることがある。あれがCAPTCHAである。あの変に歪んだ文字は人間しか読めないと考えて、あんな仕組みを考えたわけだ。CAPTCHAは、文字入力をしているのが人工知能ではなく、生身の人間であることを保証するための仕組みである。このCAPTCHAはベイジアンネットワーク理論を用いた人工知能では破ることができるのだ。その意味では人工知能は人間並みになったのである。人間の網膜は2次元的である。網膜に映る像は2次元である。2次元像に対応する、もとの3次元物体は無数にありえて、どれが正しいかは決定できないはずである。人間(動物)は3次元的な知覚ができる。それは目が2つあるからだと言われているが、実はそれだけではない。目が一つしかなくても、立体感は分かるのだ。それは例えば影などの状態を見て判断するのだ。絵で立体感を表すには、陰影をつけるだろう。脳の上の方の階層には、影があると丸みをもっているという事前知識が脳内に蓄えられている。下から来た視覚情報と、脳内に蓄えられたモデルを比較することで3次元的な知覚ができるのだ。このことは、錯視の原因にもなる。錯視という現象は、上からくる情報が起こすのである。錯視は人間が世界を正しく判断していないという意味においては間違いなのだが、避けられない間違いなのだ。人は学習で脳内に世界モデルを構築するいよいよ話は核心に近づいてきた。錯視現象が人間の脳の合理的な仕組みの非合理な結果の例である。錯視には網膜に近い部分で生じるものもあるが、先に述べたフィードバック情報により生じる場合も多い。知覚器官から上がってきた情報を虚心坦懐にそのまま受け入れるのではなく、脳の領野階層の上の方に構築された世界モデルと比較することにより、判断が下されるのだ。この仕組みは、判断の迅速さ、ノイズ除去、欠如した情報の補完などに必要不可欠である。同時に錯視のような不合理な結果も生じる。脳内の上の方の領野階層に構築された世界モデルとは、先に述べたベイジアンネットワーク理論の言葉でいうなら事前確率である。事前知識といってもよい。人間(動物)は、知覚情報を脳内のモデル(事前知識)と比較することで迅速な判断を行っている。遺伝的に最初から決まっている部分もあるが、人間の場合ほとんどは生後の学習により得られたものだ。人間にとって、生後の学習は非常に重要な役割を果たしている。目でものを見るといった基本的なことすら、実は学習の産物なのである。生まれたばかりの赤ん坊は目があっても視力は弱い。光学的な器官としての目はあっても、ものの見方を学習していないので見えないのだ。神経科学的に言えば、ニューロンはそれぞれが1万個程度のシナプスで他のニューロンと結合している。ニューロン間のシナプス結合をコネクトームという。赤ん坊は視覚のコネクトームが未完成なので視力が弱い。目の使い方だけではない。体の動かし方からほとんど全てをコネクトームが決めているのだ。人間の個性、人間を人間たらしめているのはコネクトームである。人間は外部世界のモデルをコネクトームという形で脳内に構築している。動物より人間は発達が遅いので、学習の重要性はさらに大きい。知能は遺伝で決まるというが、それは可能性の最大限を決めるだけで、その可能性を開花させるのは学習である。一卵性双生児でも、一方を人間の家庭で育て、もう一方を極端な話だが狼が育てたとしたら、その狼少年は言葉が喋れない。可能性が開花しないのである。いわゆる世界観といったような高度なことまで全て、学習で決まるのである。かなりの部分が視覚処理に使われている。視覚情報の情報量はそれほど大きくないのは意外である。実際、網膜の視細胞は1億個程度もあるが、網膜から脳に情報を送る神経節細胞は百万個程度しかない。百万画素のデジカメに例えることができる。いまどきのスマホならその10倍の解像度を持っているであろう。目が脳に送り込む情報量は、次のように評価できる。1秒間に100回、例えば千万ビットの情報が送られるとすれば、毎秒10億ビットになる。脳のシナプスの数は100兆個であるので、単純にシナプスが1ビットの情報を持つとして、脳は100兆ビットの情報を持っている(本当はもっと大きいと考えられるがここでは計算を簡単化した)。目は脳内の情報を1秒間に10万分の一しか変更できないのだ。それほど視覚の情報量は小さいのである。我々が外部世界を見るとき、ほぼ180度近い視角をもっている。写真を撮ってみてわかることは、外部世界に溢れる情報量は数千万画素のデジカメでも一度には捉えることはできない。我々は、ふだん物を見るのにそれほど不自由していない。なんでもきちんと見えていると思っている。その理由は、我々は外部世界を虚心坦懐に見ているというよりは、脳内に構築された世界モデルを見ているからである。普段見慣れた家庭内や道路、職場、学校などのモデルが脳内に構築されていて、我々はわずかな視覚情報から、それを再現しているのだ。我々は見たい物を見て、聞きたいことを聞いている。実際、目に見える(はずの)、多くの物から、我々は見たい物を選択してみている。なければ、溢れかえる情報を処理できない。パーティーの会話で、たくさんの人がひしめきあっていても、人は自分の友人の声を聞き分けることができる。要するに人は見たい物だけを見て、聞きたい物だけを聞いているのである。人間の思考の非合理性の根源ここまでは神経科学とベイジアンネットワーク理論という人工知能理論の一種を用いて、人間の知覚にせまった。ここからの話は、私の意見である。私は知覚といった基本的な脳の働きにとどまらず、普段の人の行動や考え方、さらには政治的意見などの高度な思考においても、前述の脳のメカニズム、つまりベイジアンネットワーク理論的な考えで説明できるのではないかと考えている。照らし合わせて判断する。その事前知識は長年の学習で作られた物だ。すれば事前知識が間違っていたら、判断も間違った物になるであろう。私はこの間違った事前知識を偏見、思い込み、レッテル貼りと呼ぶことにしている。人は話を聞いたり、記事を読んだりした場合に、その情報を虚心坦懐に判断するのではなく、自分の事前知識、つまり自分の世界観で判断する。政治的な意見でも、自分の考えと合わない人の話は「あいつはXXだ」とレッテル張りをすることで決めつける。その方が判断は早いし、疲れないのである。カーネマンの言うところの速い思考である。人は見たい物を見て、聞きたい物を聞く。人間の脳は人間の顔に敏感に反応するという特質を持っている。それは生まれて以来の学習の賜物だ。人間は社会的生物だから仲間の人間の顔を早く判定できるほうが生存に有利なのである。それが行き過ぎると、火星の人面岩みたいな話になる。「幽霊の正体見たり、枯れ尾花」という言葉がある。昔の人が灯火のない夜道を歩いていて、なんか変な格好の物を見たとする。その場合、事前知識を動員して、それは幽霊であると判断するのである。昼間に見たり、近寄って調べたりすれば、たんなる枯れたススキであるのに関わらず、なのだ。表に書かれた数字の計算問題についての研究がある。被験者は表に書かれている項目が普通の言葉の場合は正しく計算できても、銃規制のような政治的に敏感な言葉で書かれた場合は、その人の政治的信条によっては計算間違いをするという。知能指数とは関係ないのである。それほど人間は非合理なのである。私はネットやマスメディアに流れている政治的意見などの大部分は、この種の偏見、思い込み、レッテル貼りなどの非合理思考の産物だと考えている。同じ意見の人もいるようだ。http://matome.naver.jp/odai/2140482621278319401橘玲という作家が書いた「バカが多いのには理由がある」という本がある。人間の思考のほとんどをカーネマンの言う速い思考が占めるから、人間はバカだという。全ての判断を速い思考で行う人を「バカ」と定義するなら、人間はほとんどがバカであると橘はいう。http://www.huffingtonpost.jp/akira-tachibana/baka_b_5562320.html『私たちは生活の99%(もしかしたら99.9%)を「速い思考」で済ませています』と橘は書くが、そんなものではない、人間は遅い思考をするのは脳活動の0.0000001程度であると、モニカ・アンダーソンという人工知能起業家は主張している。視覚から入る情報が毎秒10億ビットだとして、そのうち意識に上る情報は毎秒100ビット程度だからだという。するのは、その程度の割合で、残りは速い思考で間に合わせている。人間と同じ機構で考える汎用人工知能ができるとしたら、それは基本的にバカであろうから、シンギュラリティは起きない、人工知能の反乱はないとアンダーソンは断言する。https://vimeo.com/monicaandersonそれでもバカでない汎用人工知能を作れるか?このように人間は基本的に非合理な考え方をする機構を埋め込まれた「バカ」であるという考えはもっともらしい。産物であることも事実である。それがたとえ人間の思考の0.0000001であったとしてもだ。私はこの理性的部分を伸ばした、人間よりはるかに賢い機械超知能が作れないかと夢想している。先に述べたように、速い思考をすることは生存に都合が良いのだが、機械超知能は生物ではないのだとすれば、生存のための機構は必要ないかもしれない。機械なのだから、こわれてもいいじゃないか。他の機械との生存競争はないはずだ。すれば機械知能の理性的部分をもっと伸ばせるのではないだろうか。人間の知能を限界づけているのは、新皮質の面積の限界である。それは頭蓋骨の大きさの限界による。これ以上人間の頭が大きくなると、産道を通過するのが難しくなる。生物としては限界にきているのだ。機械知能であれば、新皮質に相当する基盤の面積に原理的な限界はない。新皮質は2次元的であるが、3次元的な機械新皮質を作っても良いはずだ。領野の数も、人間と違って限界はないのだから、いくらでも抽象的な思考をさせることができるのではないだろうか。考えると、神のように賢い汎用人工知能を作れるのではないだろうか。機械超知能はようするにコンピュータであるから、複製するのはコピーすれば良いわけで、有性生殖は必要ない、従って性欲もない、だから雑念もない。純粋に理性的な、勉強と思索にふける機械ができるのではないだろうか。