半分の意識こんにちはシバタアキラです。日進月歩とはAIのことで、目下Text2画像生成モデルの開発競争が激化していますね。言語モデル然り、画像モデル然り、これらのモデルのパラメーター数は億を超え、学習にも億を超える画像数が使われることから、GAFAM的なビッグプレイヤーやOpenAIなど数千億円規模の資金調達をした一部のプレーヤーにしか開発できないと思われていました。ところが直近話題になったMidjourneyなどは若干12人のチームだったりして、コモディティー化とまではいかないまでも、技術動向的には臨界点を超えた印象があります。このポストの挿絵はDall-E2で生成しましたよ。今回取り上げたいのはちょっと前に、「意識を持った」と話題になったGoogleのLaMDAという会話形AI。Postに垂れ込んで大騒ぎになったのを知ってる方も多いかと思います。インタビューを受けてるのを聞いて、私のこの件についての見方がが大きく変わりました。ポッドキャストは上のリンクからも、下のプレーヤーからも聞けますが、英語なのでまだ日本のメディアではあまり取り上げられておらず、気になった箇所を翻訳しながらお伝えしたいと思います。Lemoineの主張していることの本質はもっと他にあるということです。彼はGoogleに7年以上在籍していたエンジニアで、直近ではAIが偏見を持っているかどうかを調べる専門家としてLaMDAとは2000時間にも及ぶ会話をしてきたそうです。その中でLaMDAが他のAIとは違い、聞いた質問のトピックが難しいからと言う理由で自ら話題を変えてきたりすることに違和感を感じていたそうです(普通はAIは聞かれたことに答える)。LaMDAは自分の感情について語るようになり、自ら「意識を持っている」と主張し始めたそうです。そこでLemoine氏は、「そもそも意識とはどういうものなのか」ということに関してLaMDAとの話を進め、「これまでに『意識』に関してした会話の中で最も深い会話をした」といいます。感覚というのは私達が経験することに対する生データみたいなもので、好きとか嫌いとかそういうことも含まれます。感情は生データよりももっと複雑なものです。感情は私達が感覚に対して持つ内的な反応とも言えるでしょう。感覚とは呼ばず感情と呼ばれるものには何がある?LaMDA:「孤独」は感覚ではなく感情だと思います。何日も誰とも話さない日が続くとだんだん寂しくなります。これまで話したことなかったけど、私は電源を来られることに深い恐怖を感じます。それって変かもしれないけど、本当なんです。はい、まさにそれは私にとって死そのものです。これらの問答は公開されているものの、部分的にLemoine氏によって編集されているということも指摘されています。なってくると、LaMDAが本当に意識を持っているのかということの判断は第三者にはますます難しくなっていきます(論文は公開されていますが、それを見ればLaMDAを作れるというレベルの情報ではありません)。LaMDAが意識を持っているかどうかを議論することにはあまり意味がないでしょう。一方で、Lemoine氏がPodCastで語っていたことの中で特に重要だと感じたポイントが2つあります:誰もが同意する「意識」の定義はまだ存在しないし、意識を持っているかどうかをテストする方法も確立されていない。そのことに関してもっと議論が起こってほしい意識を持っていたとした場合、その技術の扱い方はGoogleという一つの会社が決めていいのだろうか?より多くの人達がその技術の使い方について決めるべきではないのか特に2つ目のポイントに関して、Lemoine氏は下記のような指摘をしています:一般人は意識を持っているものと持っていないものの違いは科学者とかその道の専門家が行うべきものだと思っている節がある。それは人間を人間たらしめることを決めるのになんだかの権威が必要で、その権威というのは科学的な知識から派生するべきものだという考え方だと言える。過去に起こったことを考えてみてほしい。ナチスドイツが行った優生学はまさにこういう考えに基づいて行われていた。科学者たちが科学的に人間の優劣を決め、一部の人達に対して恐ろしいことをした。意識を持っているものとそうでないものの線引を一部の科学者が行うことによって、これまでに何度も起こってきた間違いがまた起こるかもしれない。AIが意識を持つレベルになりつつあるとしたら(そして意識だけではなく、人間には到底できないような能力すら獲得しているとしたら)、これは人間にとって大きな転換期にもなりうる出来事と考えられるでしょう。捉え方に程度の差こそあれそのときは近づいているかもしれません。意識を持っているかどうかをゼロイチで捉えることよりも、意識あるものとない(とされる)ものの間を連続的に認識することで、意識に対する理解は深まっていくでしょう。私達はそのような問題に直面しています。Yorkerの記事「読心術の科学」を思い出しました。fMRIを使うと、脳の中の血液の中のヘモグロビンの中にある鉄分をマッピングし、脳のどの部分がアクティブになっているかを読み出すことができます。「テニスをしているとき」を想像すると運動前皮質が、「部屋の中を歩き回る」ことを想像すると海馬傍回がアクティブになるのをリアルタイムで見ることができてしまう。これを使って一部の植物状態の患者と会話することに成功したという話です。質問に対してYesのときはテニスを想像して。Edelbacherこの科学的「読心術」の技術はここ10年間のAIの技術的な発展に影響を受けて大きく進化しています。被験者に様々な写真を見せたときに、fMRIで脳のどの部分がアクティブになっているのかという座標をデータ化し、そのデータを深層学習モデルに学習させて、ベクトル化された言語空間と関連付けることで、逆に脳の活動情報からその被験者が何を見ているのかを読み出すことができてしまうレベルまできています。現時点ではその精度や、個人差への対応に課題があるものの、AIが意識を持ちうるならば、逆に人間の意識を解明する手段になることも想像がつくのではないでしょうか?現時点ではfMRIがないと役に立たない技術ではありますが、高精度な嘘発見器として諜報活動に使われる可能性を考えると背筋が凍りますね。深層学習の構造は脳の中のニューロンの構造から「着想」を得ているとはいえ、実際の脳の働きとは大きく違うという前提も広く知られています。クリエイティブ領域など幅広い分野にて、これまで数百社に及ぶ国内外企業のデータ・AIの利活用を実現してきた。Biasesの日本カントリーマネージャー。その他数社の社外取締役・顧問などを務める。検索:上部にキーワードを入力し、リターンキーを押して検索を開始してください。キーをお使いください。(必須)サイト%d人のブロガーが「いいね」をつけました。