代表取締役)の講演があり、聴講してきた。これをレポートしたい。2年近くも前の講演をなぜ今ごろ取り上げるのかというと、この2年というのが、私が金井氏の講演内容を理解するのに要した熟成期間だからだ。聴講したその場では、まったくチンプンカンプンだった。その後、カール・フリストンの「自由エネルギー原理」を理解しようと、生半可ながら、少し勉強した。それから同じ講演を動画で見なおしてみたら、今度は分かっちゃって分かっちゃってしょうがない。なんか、逆コペルニクス的転回みたいなことを述べている。天動説は間違いで、地動説が正しいという考えに人々が慣れてきたころになって、いやいややっぱり天動説でした、と引き戻して、再びびっくりさせる、みたいな。生命と知能と意識とは、それぞれ別物だ、と考えるのが玄人ってもんである。意識は、ものごとの進行を少々遅れて傍観しているだけで、実世界に影響を与える機能を何も果たしていないのではないか、と考えるのが、これまた玄人である。それが間違っているというわけではないのだが、ここはひとつ、もっと素朴な観点に立ち返って、生命と知能、知能と意識はそれぞれ地続きになっていると考えてみるのはいかがでしょう、と素人っぽいほうへ話を引き戻している。意識には行動のプランニングなどの機能があるのではないかと提案している。逆コペルニクスの味わいが、一般の方々にもよく伝わるようにとの配慮から、このレポートでは私がずいぶん多くの言葉をつけ加えている。先に読んでおいてから動画を視聴してみると、2年間も悶々と悩まずとも、すっと理解に至るのではないでしょうか。AI美芸研のウェブサイトの『第15回AI美芸研』のページに、このイベント全体を記録したYouTube動画が埋め込まれている。金井氏の講演は、29分30秒から1時間26分30秒まで。記録集を制作中であるとのこと。保存版書籍として2019年12月15日刊行予定。B4、日英バイリンガル。https://www.facebook.com/groups/1155307841158207/permalink/2750472594975049/その中で、金井氏の講演のレポートを実は私が書いている。約3,500字の原稿は、すでに金井氏によるチェックが済んでおり、「よく内容を理解されていて、すごいです」とのコメントを頂戴している。講演の一部を単に文字起こししたのではなく、自分の言葉を交えて書いたので、それに対してこう言っていただけたということは、理解できたという自分自身の感覚は錯覚ではなかったと考えてよさそうである。講演概要:意識に関してふたつのナイーブな直感がある。1・生命は意識を持っている。生命には意識があると認めがちだが、機械には意識がないと思いがちだ。2・高度に発達した人工知能は意識を持っている。3者を分析的に区別することは可能だが、本講演では、敢えて意識が人工知能や人工生命に宿ると考える3者の密接な関係を、理由をセルフの生成モデルと生物学的自然主義の観点から提唱する。同じ観点から、人工知能に汎用性を持たせることで現象的意識が生じると考える理由を議論し、統合情報理論などを用いた検証方法を提案する。□イントロ2013年12月に人工知能のスタートアップとして、株式会社アラヤを設立した。意識の謎を解明した上で、人工物に意識を搭載することを狙いとして研究開発を進めている。意識の謎とは、物質である脳からどうやって意識が生まれるかのメカニズムを問うものであり、我々人間がそもそも何なのかという根源的な問いに関わる。科学はさまざまな自然現象を数理的に説明づけることに成功してきたが、根源的な問いについては、まだ十分に解き明かされていない。三つの大きな謎として、宇宙の起源、生命の起源、意識の起源があり、最初の二つは宇宙物理学と進化生物学である程度解明が進んできているが、意識については、科学からのアプローチが端緒についたばかりである。生命と知能と意識の三者は、まだ見ぬ未来の人工物や、現実を離れた仮想世界まで想定して思考実験すれば、概念的に別物として分離できる。人間は三者すべてを備える主体とみることができ、逆に、河原の石ころはどれも備えていないただの物体とみることができる。生命と知能との関係性について考えるとき、ウィルスやバクテリアは生命だけあって知能が備わっていない主体とみることができるし、逆に、囲碁で人間の世界チャンピオンを負かすソフトウェアは生命を備えず知能だけある主体とみることができる。これで(あり、あり)、(あり、なし)、(なし、あり)、(なし、なし)の全組合せが出揃ったことになり、生命と知能は別物であったと、概念的に切り離すことができる。知能と意識との関係性についても同様に考えることができる。先ほどの囲碁ソフトウエアは勝ちたいと思っていないし、勝ってもうれしいとは思っていないであろうという点において、意識が備わっていない主体とみることができる。ヒトの皮膚の細胞を一度幹細胞に変化させてから培養して作った「脳オルガノイド」と呼ばれる豆粒サイズの細胞組織から、人間の胎児に似た脳波を検出することに成功したという研究事例がある。これに意識が宿ったかどうかは不明だが、このような生理学研究の延長線上で、大した知能が備わっていないけれども、意識を宿す主体が生まれいずる可能性がある。https://nazology.net/archives/44434これで全組合せが出揃ったので、知能と意識とは別物であったと切り離せる。自然界に限って素朴な直感で言えば、三者は切っても切れない関係にあると思えてくる。生命から必然的に知能が芽生え、知能から必然的に意識が芽生えたとすれば、生命が知能を包含し、知能が意識を包含するという関係性がみえてくる。今日、伝えたいのは、意識は、思っていた以上に生命と関わりが深いのではないかということ。生きていることは意識があることではないか?これらがどういうふうにつながっているかを、二つの観点で話そう。ひとつは、生命から知能へ。ひとつは、知能から意識へ。FEP)」を紹介したい。後者については、意識のもつ機能としての「反実仮想的(counterfactual)情報生成理論」について説明したい。AGI)」を作る狙いにも関わってくる。人工物では三者が乖離するけれども、乖離しない部分として、「人工生命から人工知能へ:自己保存システムは知能をもつ」、「人工知能から人工意識へ:汎用人工知能は意識を持つ」の二つが言えるだろう。自己保存から認識へ生命から知能が必然的に生じることを示唆する仮説として、カール・フリストンが提唱した「自由エネルギー原理」がある。いう論文に書いてあり、次のようなものである。一個の細胞にせよ、一個の脳にせよ、一個の生命をもった個体にせよ、情報の流通をグラフとして表現してみれば、マルコフ・ブランケットを介して内と外とに分けることができる。ここでいうグラフとは、グラフ理論におけるグラフのことで、丸で表されるノードが多数あってそれぞれが情報を保持しており、丸から丸へとつなぐ矢印で表されるエッジが情報を伝達する。ひとつひとつのノードに入ってくる矢印は、ないかもしれないし、一本かもしれないし、複数本あるかもしれない。出ていく矢印についても同様である。ノードは、入力値から出力値を算出する演算機能も備える。脳を表現するモデルだと思ってグラフをみれば、各ノードは脳神経細胞(ニューロン)に相当し、各エッジはひとつの脳神経細胞から別の脳神経細胞へのシナプス結合に相当する。マルコフ・ブランケットは、脳と感覚入力や運動出力をつかさどる身体の各器官とをつなぐ神経細胞に相当する。マルコフ・ブランケットを介して内と外とに分けられるのであれば、内側をエージェントとし、外側を環境とすることによって、エージェント対環境というモデルを考えることができる。エージェントと環境とは直接触れ合っておらず、両者を隔てる膜のようなものとして、マルコフ・ブランケットがある。内側のエージェントにとって、外側の環境から情報を得たり、外側の環境へ手出ししたりするために、直接的な手段がなく、必ず、マルコフ・ブランケットを介して行わなくてはならない。脳で言えば、脳が直接外気に触れているわけではなく、身体とをつなぐ神経を介在される以外に情報伝達手段がないことに相当する。信号の列(ビット列)を受け取る以外に手段がない。外界に手出ししたいのであれば、手足などの筋肉へ至る神経を介して「収縮せよ」という指令に相当するビット列を送り出す以外に手段がない。エージェントが外界を正しく認識するメカニズムを説明づけるためのモデルとして、根底にこれがある(※)。Biehl氏が自由エネルギー原理の土台となるあたりに、論理的な欠陥を発見したという。11月現在、それを指摘する論文を発表する準備を進めているという。自由エネルギー原理は、土台がぐらつく可能性がある。生命をもった個体において、生存確率をできる限り上げることが大目的としてある。その大目的を達成するためには、外界のありようを正しく認識できているほうが有利に働く。小目的として、外界のありようを正しく認識すること、が掲げられる。生命的なものに認識という機能がなぜ必要なのかを考えると、その理由はここにありそうだ。フリストンのメッセージの本質は「自己保存的なシステムは、外界の状況を正しく認識して、その認識に基づいて適切な行動をとる機能を備える必要がある」という点にある。エージェントが行動を通じて環境に働きかけ、その結果として環境の状態が変化し、その結果として感覚を通じて環境の状態に関する情報がエージェント内に入ってくる。(sensorimotor)ループ」という。したらエージェントが感覚運動ループから外界のありようを認識できるのかを自由エネルギー原理は説明している。これは「ベイズ脳」仮説を下敷きにしている。フリストンの自由エネルギー原理を勉強しようとしても、すんなり理解できなくてドツボにハマる人が多い。いう順番で読むのが理解への近道。(VB-EM)」を勉強しておく。(2)「自由エネルギー原理(FEP)」の思想を知る。Inference」、(5)「Counterfactual」を勉強すれば、それぞれ、FEP1.0、FEP2.0、FEP3.0に対応している。自由エネルギー原理は次のようなことを言っている。物理法則からすれば、外界にリンゴという物体が実在しているという原因があることによって、光学的な物理作用の結果として網膜にリンゴの倒立像が写っていて、その情報を神経が脳に届けることによって、我々はリンゴが見えているという視覚的体験をする。この原因から結果が生じる物理的なメカニズムを「生成過程」と言い、これを脳内で推測して保持している情報を「生成モデル」と言う。我々エージェントの側に立つと、リンゴの実在に直接的に働きかける手段を持たない。ここはピンと来づらいかもしれないが、脳が、目や手を介在させることなく、直接リンゴを見たり、リンゴに触れたりすることができないということを言っている。素朴実在論の否定に相当する。したがって、リンゴが実在するという情報は、あらかじめ知っておくことのできない潜在変数である。我々は、物理的な因果関係の順序をひっくり返して、リンゴが見えているという感覚に基づいて、逆向きの推論をして、外界にリンゴが実在していることを推測しなくてはならない。条件つき確率の前後関係を反転するベイズの公式がある。これを適用すれば、少なくとも形式的には、求めたい事後確率が求まっている。いう計算を脳が実際にやっているであろうとする仮説が「ベイズ脳仮説」である。解は形式的に数式で表現できているとは言え、実際に計算しようとすると、すんなりとは行かない。分母の計算がたいへんなことになるのである。そこを回避して、平均場近似などの仮定を入れた上で近似解を求めるテクニックとして、「変分ベイズ」がある。これをあらかじめ勉強しておくと、自由エネルギー原理をすっと理解することができる。エントロピーを増大させようとする環境からの作用にエージェントが飲み込まれると、自己保存が壊れて環境と同化してしまう。それに抵抗して個としての恒常性を保とうとするならば、自由エネルギーを最小化する必要がある。これが自由エネルギー原理の主張するところである。この原理により、認識と学習と行動とがすべて説明づけられる。行動することによっても自由エネルギーを下げることができるという発想がおもしろい。Inference)」という。Problem)」という弱点がある。エージェントは外界のありようが今こうなっているであろうという推測を脳内に保持している。この推測が外れていれば、感覚入力の予測と現実との誤差が大きくなる。この誤差が「びっくり」に相当する。びっくりしたら、次から同じことでびっくりしないよう、予測を現実に合致させるべく、内部モデルを修正する。して、エージェントは学習する。ところが、予測が外れさえしなければよいのであれば、真っ暗な部屋にじっととどまっているのが楽チンだ、ということになる。自由エネルギー原理を実装したエージェントがこの沼にはまって、デッドロックしてしまうという問題が生じる。これが「暗い部屋」問題である。暗い部屋問題は、モデルに反実仮想を入れると解決できる。反実仮想というのは意識と深い関係があると思っている。認識から情報生成へ一般の人々の常識的な感覚からすると、意識というのは非常に大事なものであり、これがなかったら死んでいるに等しく、何も始まらないと思うかもしれない。ところが、脳科学においては、意識って何の機能も果たしていないので、ひょっとして要らないのではないか、ということがよく言われる。思考実験上の仮想的な概念として、「哲学的ゾンビ」というのがある。本人にとっては何も見えていないし、何も聞こえていないし、一切合切の意識的体験が生じていない。精神が空っぽの状態である。無意識的な情報処理計算によって生命体としては機能しており、外部から観察する限りは何の不自然さもなく、見分ける手段がない。こんなやつがもし実在していたら、たしかに、意識は要らない。意識は遅れたタイミングでやってくることが実験から分かっている。バットをブンとフルスイングし終わってから、「お、ド真ん中ストレートだな。よし振ろう」と意識にのぼる。意識は実世界のものごとの進行に間に合っておらず、無意識小びとのなす仕事を傍観しているだけなのかもしれない。したら、いよいよ、意識は機能としては何もしていないのではないか。工場が稼働すれば煙突から煙が出るが、煙が稼働状態に影響を与えることはない。意識もまた煙なのではないか。これが意識の随伴現象仮説である。科学者たちの間では、まるで常識のように強く支持されている。随伴現象説に異を唱えようとするなら、意識の機能にはこれがあるだろうというのを、提示してみせる必要がある。現在の感覚入力のベストな解釈を生み出すことと、情報を自発的行動や行動計画に利用可能にすること。ラマチャンドランは、クオリアには機能的特徴が三つあるとして、「クオリア三原則」と呼んでいる。リンゴが見えているとき、これはリンゴではないと思おうとしても、見えてしまっているものは変えられない。同じ感覚入力から、反射的に行動がひとつに決まってしまうのではなく、熟慮の上で選択可能な行動が複数ある。のぼった内容というのは、忘れないうちなら、多少時間が経過してからでも自由に使うことができる。第二と第三の性質が、行動のプランニングに利用できる。これが意識の機能なのではないか。このことは、臨床例からも、ある程度示唆される。cortex)に損傷のあるD.F.という有名な患者がいて、彼女は立体の形の認識ができない。郵便ポストのようなものがいくつか用意されていて、それぞれに斜めのスリットが空いている。斜めスリットの傾きはまちまちである。その傾きが、例えば45°だとして、その角度が彼女の意識にはのぼっていない。それを口頭で表現することはできない。意識にのぼらなくても、情報自体は脳まで届いている。斜めスリットに手紙を入れてくださいと言うと、これができてしまう。リアルタイムでこのタスクを遂行するために、角度が意識にのぼっている必要はないのである。ところが、最初に斜めスリットを見せておいて、電気を消して、3秒ぐらい経ってからだとできなくなる。見えていない3秒間で角度の情報が無意識からも消えちゃっている。ものを見てから3秒ぐらい経過してから、見た情報に基づいて行動するとなると、見たものが意識にのぼっていなくてはならないようだ。意識の重要なポイントは、時間を超えて情報を保持して、それに基づいた行動を可能にしている点にあるのではないか。ひとつ、意識には反実仮想的に情報を生成する機能があると考えられる。現実の環境から分離した状況やイベントを表現する機能である。コップに手を延ばそうと意図している段階で、コップをつかんでいる状態の像や、その感触を内的に予測している。おいて、意識の機能とは、現在の感覚入力と乖離した状況を感覚入力信号のフォーマットで生成し、それを未来の行動の計画などに利用することであると考える。これの逆を言うと、論理が多少飛躍するのだが、より大胆な仮説として、自分の環境における状態の予測を生成することのできるシステムは意識を持つと考えられる。□全体まとめ全体をまとめると、次のようになる。第一に、人工生命と人工知能について。自己保存システムとしての生命は、恒常性の維持のために、環境を認識する必要があり、知能を必然的に獲得する。第二に、人工知能と人工意識について。自己と環境の生成モデルをもつことが意識の本質的機能と考えるが、それらを、反実仮想の生成に利用することで汎用性の高い柔軟性のある人工知能が実現できる。概念的に区別することは簡単だが、その背景にある本質的なつながりを明らかにすることで、新しいシステムのコンセプトを生み出すことができる。【所感】この講演の前に、私は金井氏の講演を3回聴講している。2017年9月23日(土)に東京で開催された、三宅陽一郎氏との対談イベント『対談・哲学する人工知能と人工意識』。私の中で天才認定しており、氏の言うことならば、とにかく何でもかんでもとりあえずは吸収しておきたいという思いがあった。今回の講演内容は新ネタだそうで、それもありがたい。言っちゃあナンだが、会場はおそろしく不便なところにある。一日のイベントに参加するのに2泊3日かかる。那覇空港からバスで約2時間となっているけれど、道が混むと大幅に遅れる。いう名称のバス停があるけれど、「前」という概念を拡張しすぎだ。正確には、山頂に大学院大学が建っている山のふもとの海岸だ。このイベントは、ネットでリアルタイム中継しているし、後からでも視聴できる。行って聴講する意味は何か。ひとつは、質問できること。ひとつは、運営スタッフと登壇者の打ち上げに聴講者も混ぜてもらえること。行った人はそんなに多くなく、金井氏とたっぷりお話しできたのは、大収穫であった。意識は、ものごとの進行を遅れて眺めているだけで、何も機能を果たしていないとする随伴仮説に対して疑問を呈し、数秒以上の時間をおいたプランニングにおいて、何か仕事をしているのではなかろうか、とする金井氏の考え方に、私は自信がないながらも、少し同調できる。それに近いことを、以前に言っている。意識という文脈ではなく、自由意志という観点からだが。ベンジャミン・リベット氏は、自由意志は錯覚なのではないかと示唆する実験結果が得られたことを、著書『マインド・タイム』の中で述べている。意識の上で、今、決めた、と思う瞬間よりも早いタイミングで、脳内ではすでに行動の準備が始まっていることが示されている。その実験は、行動を起こす瞬間についての決断しか扱っておらず、ある程度、間をおいたプランニングにおいては、話が別なのではないかと私は思った。自分にプログラミングしておいて、自動運転に任せていると、往々にしてバグる。富士銀行でお金を下ろそうとして、うまくいかなかったT氏のことを例に挙げた。2016年4月15日(金)『天然知能と人工知能をめぐる議論』http://bn.dgcr.com/archives/20160415140100.html2017年10月6日(金)『シンギュラリティ以降に来るのはディストピア』http://bn.dgcr.com/archives/20171006110100.html次のように書いている。「この話の注目すべき点は、自分に対して仕掛けたプログラムが往々にしてバグるということである。無意識小びとの仕事は、そうそうバグらない。いうことは、このバグを出した当事者は意識側であろうという疑いが濃厚である」。有望な考えなのかもしれない。松田卓也氏(神戸大学名誉教授)は、20年~30年ぐらいのレベルで近い未来において、人類は超知能を獲得し、シンギュラリティが起きるであろうと予想している。知能と意識とは別物であって、知能が備わるのはいいけれど、意識はないほうがいいという。たしかに、産業ロボットが「賃金よこせ」とか主張しだしたら、やっかいだ。今回の金井氏の話からすると、そんな手前勝手な、都合のいい話は許しませんよ、となりそうだ。人類を超えるほどのレベルの汎用人工知能には、どうしたって、意識が備わっているはずだ、と言っているように受け取れる。どっちに分がありそうか、なんて、私にはさっぱり見えない。私は、知能と意識は別物であろうと考えてきた。問いとして、知能の問題のほうが、数理モデルに落とし込みやすいという点において、難易度が低かろうと思っている。振舞いを外から観察する限りにおいて、知能を備えているフリが上手い、というタイプでよければ、数十年程度でソレっぽいものが出来上がったとしてもおかしくはないと思う。意識の謎は根が深くて、原理的に不可能ではないにせよ、解けるまでに向こう300年はかかるだろうと思っている。この考えはリスクが大きく、数年レベルでさっさと解かれてしまったりすると、大変カッコ悪いことになる。【GrowHair】GrowHair@yahoo.co.jpセーラー服仙人カメコ。アイデンティティ拡散。Neuroscience〈CHAIN〉)」(学内共同施設)を設置した。本格的な活動は来年2020年4月からを予定している。AI研究が交差する領域において、文理の境界を超えた先端的研究・教育のプラットフォームを作ることを狙いとしている。センター長は、田口茂氏(北海道大学教授)。フッサールの現象学を専門とする哲学者。メンバーは幅広い分野にわたる研究者から構成されている。学外メンバーに意識研究者の名がずらり。https://www.chain.hokudai.ac.jp/index.php/members/2019年11月9日(土)、10日(日)、本センター設置を記念して北海道大学札幌キャンパス・医学部学友会館フラテホールにて、国際シンポジウムが開催された。』https://www.chain.hokudai.ac.jp/index.php/international-symposium/1日目と2日目が同型写像になっている。午前中に二人、午後に二人が講演し、それにもう一人加わってパネルディスカッションする。)恐ろしく豪華な顔ぶれだ。私にとって、センター長の田口氏および海外を拠点としている研究者の面々は、お姿を拝見するのが初めてだ。◆センターの名称に「意識」を入れていないとは言え、4つのテーマのトップに掲げている。日本において、意識研究ならここでやってますよ、という拠点が開設されるのは画期的なことだと思う。私ごときが心配しても始まりゃしないのは承知の上だが、科学と哲学との間の深い溝が気になる。この話題は以前に取り上げ、金井氏らにもご意見を伺っている。前回の反響』http://bn.dgcr.com/archives/20180801110100.html意識については、そもそも問いが主観と客観とにまたがって据えられているのであるから、それを解明しようとする取り組みとしての学術研究は、客観を旨とする科学の側だけから攻めて何とかなるものではなさそうだと思っている。したって、自然科学と人文科学とが力を合わせて、学際的にやって行かざるをえないはず。学際的にやると言ったって、人だけ寄り集まってもダメで、文理双方向に情報の流れが活発に生じて、アウフヘーベン的に成果が出てくることを狙わなくてはしょうがない。そこに、お互いにどうにもこうにも分かり合えない、相互理解の深ーい溝が見え隠れする。これは、けっこう根の深い深刻な問題だと思う。みんな大人だから、居合わせただけで即座に喧嘩が始まるというものではない。あいつら、なんか、どうでもいい無意味な問いを巡ってごちゃごちゃと無駄な議論しているなーと思ったとしても、黙ってスルーしときゃ、いちおう平和は保たれる。それじゃ、みんなそれぞれタコツボにこもって自分の関心領域だけ追究していればよく、寄り集まった意味がないし、総合的な成果へ結びついていく見通しが薄れる。学際的研究に本質的につきもののようにみえるジレンマ。そこをどうする?少なくとも、プロジェクトのリーダーには、並々ならぬコミュニケーション能力が要求されるのは確かだと思う。CHAINのセンター長を務める田口氏は、フッサールの現象学を専門にしていながらも、科学に対して深い理解があって敬意を示してくださる稀有な哲学者という印象がある。先ほどのリンク先で、金井氏は「意識を考える上で、非常に役立っていますし、自分自身の研究の位置づけを明確にしてくれます」と褒め称えている。今回のシンポジウムでは、哲学方面からのアプローチについても割とたっぷり聞くことができたけど。私が聞く限りにおいては、その問いに取り組んだとして、先々、普遍的な真理の発見という実りが待っているだろうかと疑問に思え、取り組む意義が見えないという、「そもそも」レベルで理解しづらいのがやはりあった。スルーして平和を保つか、率直に意見を述べて激しく議論するか。あの場は、一貫して、たいへん平和的なムードだった。批判を避け、黙ってやり過ごすことで表面的に平和が保たれているということではなく、哲学者と科学者の双方から、相手側の発表に対して積極的に質問を投げていたし、登壇者も誠心誠意回答していた。研究内容にあまり価値がみえてなくても、研究者の人柄のよさに敬意を示していたりして、たいへん丸いムード。基本的に仲良しと感じられた。くのホテルまで徒歩で戻り、三つ編みにしたヒゲのリボンを解き、寝間着に着替えたところで、金井氏からメール。会場1階で飲んでる、と。