今、ChatGPTが世界を賑やかしているのを見て、再度、ワイゼンバウム教授の提起した問題を私たちが考え直さなくてはならないと思い、少しずつブログの記事として紹介を始めたところです。これまでの三回のリンクを貼り付けておきますので、御覧下さい。危険性が高い可能性のあることを指摘しておきます。一つは、責任を取る主体の問題です。「イライザ」はワイゼンバウム教授が一人で作りましたので、責任者が誰であるのかは明確です。対して「チャット」の方は、恐らく複数の人たちが協力して作ったものでしょうし、その過程でこれまでに蓄積された多くのプログラムを使っているはずです。その中のいくつかは、まだ改良が続いていて、日常的にアップデートされているものも多いはずです。そんな複雑な構造を持つプログラムについて、責任を取る人物は誰なのか、顔が見えません。それに対する答として返ってくるのは、「責任を取るのは、「チャット」を作っているOpenAIという企業だ」かもしれません。なると、それが第二の問題です。OpenAIは、営利目的の組織です。営利目的だから、必然的に無責任ということにはならないかもしれませんが、これまでの多くの事例を見れば営利目的という点が最優先され、社会的な悪影響は放置されたままであったことがいかに多かったのか、皆さんも御存じだと思います。それに対して、「イライザ」は営利目的のために作られたのではありません。AI研究の一環として創造性の高い研究者が作ったプログラムです。幸いなことに、その研究者が、自分の持つ社会的責任を果そうと、その害についての考察を真剣に行ったのです。OpenAIが無責任だと言う積りはありませんし、これから社会的責任を十分に果たして欲しいと願っていますが、私たち自身が、「チャット」と「イライザ」の違いに気付き、「チャット」についても、自らの判断ができるように情報を集めたり考えたりする必要はあると思います。「難しいことは考えなくても便利なものを使うだけの話だろう。」という反論も聞こえてきますが、「便利」という目的のために、犠牲にされてきたことが多いという事実もこの際思い起こして頂ければ幸いです、そのためにも、『コンピュータ・パワー』の紹介を続けますが、今日のところは思い付きのレベルでも「チャット」と「イライザ」の間には、このような差があることをお伝えしたくて、この一文をアップしています。イライザ][お願い]文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。ショックを受けたのですが、それは三つにまとめられます。一つは、「ドクター」が成長し、コンピュータが精神科医に取って代われる時代が来ると信じた精神科医が多かったことです。二つ目は、コンピュータとの間に「深い感情的交流」ができると人間が感じるまでに必要のは、ほんの二言三言という短い時間だったという事実です。三つめは、「ドクター」が、コンピュータによる自然言語理解という問題の一般的解決だと考える人たちが続々と現れたことでした。「ドクター」に対して多くの人が示した反応にW教授がショックを受けた最大の理由は、彼自身が「ドクター」作ったという事実にあると考えて良いでしょう。精神科医に取って代われる代物ではありませんし、人間との感情的交流ができるような要素も存在しないことも知っています。自然言語理解の一般論になっていないことも自分自身で作ったプログラムの限界として認識していたのですから。それを元に、なぜ多くの人が「ドクター」に惑わされてしまったのかを、W教授は理解しようと考えました。それを、三つの疑問という形で説明しています。一つは、私たちはこれまでの歴史で、人間を機械の一種であると考えることはあった。コンピュータの出現によって、それがより正当性を持つものだと考えられるようになってきた。コンピュータの持つどのような側面がこのような考え方を促しているのだろうか。取り上げることになるが、W教授は、人間の知能と人工の知能の間に一線が画されて当然だと考えている。その一線が踏み越えられた場合、どのようなことが起こるのかも私たちは予測し熟慮しなくてはならない。二つ目に、より一般的には、人間は様々な道具と自分自身とを一体のものとして扱う感情的なつながりを持ってきた。そのためには、道具や機械を扱う場合に、それらを筋肉的、知覚的な習慣として自分の一部と見做すことが必要だった。それを元に考えると、知性や認識、感情の表明に関わるような、いわば人間のあらゆる機能を延長するような機械に特別の感情を持つことも理解できる。そんな機械に自らの自主性・自立性というところまで託してしまうという意味を、立ち止まって考えなくてはならないのではないか。最後に、今という時代は、社会全体、その中でも官僚制度とか大学、その他の組織等までも機械というモデルで理解する傾向が強くなってきている。その中で人間の占める位置が崩れ、私たちは自らの持つ自主性や自律性を放棄するかさせられてしまう時代になっている。そんな中で、長期にわたって外からのインプットなしに、いわば自動的自律的に動く機械に、つまり機械の内部事情だけに依存して動く機械に、私たちがより強く広く依存し始めているという皮肉にも目を向けよう。なると、私たち自身も含めて私たちの住む社会そのものを理解するためにも、モデルである機械の内部事情を理解する必要がある。実は、そこで最大の注意を払う必要があるのは、私たちの身近にあるほとんど唯一と言って良いモデルは、人間の思考だという点である。そのモデルを使って機械を説明しようとすると、機械の持つ能力以上の「説明」になってしまう傾向が顕著になる。それは、「イライザ」の真似のできる人は多くいるのに対して、その人たちが同時に、「イライザ」と同じくらいの言語能力しか持たないなどということはまずはあり得ないからである。このように、限りなく続く矛盾のスパイラルをも整理しながら、コンピュータと人間との関係を考えて行くことになるのですが、W教授の結論は、様々な論証そのものでもあるという側面を持つことになります。長くなりますが、できるだけ分り易く、この項を後数回続けたいと考えています。イライザ][お願い]文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。作った「イライザ」というコンピュータ・プログラムがどんなものなのかを実例で紹介しました。説明を加えるとこのプログラムは、二段構えの構造を持っています。一つは言語分析プログラム、もう一つは台本です。人間が、言葉を「イライザ」に打ち込むと、言語分析プログラムがその言葉を分析して、例えばその中のキーワードを選び出したり、固有名詞を特定したり、というような処理をします。そのキーワードを元に、今度は台本に載っている、「キーワードを繰り返す」とか、「具体例を示せ」というようなシナリオに従って、「イライザ」の言葉として画面にアウトプットされるのです。したものだと考えられます。精神科医としての役割を果す「イライザ」は、「ドクター」として知られるようになり、多くの人たちから高い評価を受けるようになりました。それはW教授にとっては大きなショックだったのです。それをW教授は三つにまとめています。一つは、多くの精神科医が、「ドクター」が成長し、やがては完全に自動化された形の精神医療が可能になると信じるまでになったことです。精神科医の仕事の大切な部分は、そこに人間同士の出会いがあり、感情移入等を通して患者の持つ問題を理解する過程がある、というのがW教授の考え方です。かかわらず、その人間同士の出会いの本質は、機械による単なる「猿真似」によって置き換えられると考える人たちが多いことにショックを受けたのです。第二に、例えば楽器とかオートバイ、車、あるいは職人の道具等に人間が愛着を持ち、自分の一部だと感じることは私たち多くが経験することです。多くの人がほんの一言二言コンピュータとの会話をしただけで、コンピュータとの間に深い感情的な交流があるとまで感じるようになり、コンピュータを人間と同等に扱い始めたことに、W教授はショックを受けたのです。三つめは、「ドクター」が、コンピュータによる自然言語理解という問題の一般的解決だと考える人たちが続々と現れたことでした。冷静に考えると、人間でさえ、一般的解決策の具現化ではないのですから、コンピュータのプログラムがそうでないことくらい分るはずなのですが、過大評価をされたことにW教授は危機感を覚えました。それは、かなりの教育を受けた人でも自分の理解できない技術に出会うと、それに対して誇張された価値を与えてしまうからだと、W教授は解釈しました。なると、科学者が自分の研究を公にする際の責任をもっと真剣に考えなくてはならないことになります。いった責任があるのか、そして誰に対する責任なのか、ということを考えなくてはならないからです。世に出したことについての反省の意味も込めていたと考えられます。世間からのこうした反応からW教授は、自分がこれから関わって行かなくてはならない問題を整理し、それが『コンピュータ・パワー』になりました。人間の間には違いがあること、人間だけが取り扱うことを許されている領域が存在すること、仮に、AIと人間との境界が無くなるような事態に至ったとしたらそれはどんな意味を持つのかを、深く洞察しておかなくてはならないとまとめられるのではないかと思います。続いて、W教授が次にどのように彼の問題意識を整理し、最終的にはどのような結論に至ったのか、順次、紹介して行きます。イライザ][お願い]文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。最近最も話題になっているのがChatGPTと呼ばれる「オリジナルのテキストを生成することができる人工知能ツール」です。(OpenAIに登録してアカウントを作ればすぐに使えますので、説明は省略します。)「AIの新時代が始まった」、「教育の意味や内容が大きく変わる」等々、世界的に注目され話題になっています。した評価を聞いて、私は1960年代から70年代にかけて、同じように話題になったAIのプログラムを思い出しました。私のハンドル・ネームもこのイライザから取ったものです。MITのジョセフ・ワイゼンバウム教授が1960年代に開発したプログラムで、心理学のロジャーズ学派の原則を用いて、精神医療医の真似のできることが特徴でした。このプログラムを使って、コンピュータと対話をした多くの人々は、あたかも一人の人間と話しているかのような気持ちになったと報告しています。その結果、「精神医はもう必要なくなった」というような過大な期待を寄せられるようになったのですが、まずは、一人の若い女性と「イライザ」との対話の記録を御覧下さい。最初が女性の、そしてイタリックは「イライザ」の言葉です。