2018/2/6studyブログ囲碁や将棋のようなゲームでは、ルールは明確で単純です。我々人間が暮らす日常生活空間においては、社会的存在として人が守るべきルールや規範が陰に陽に定められており、それらは一般的にはゲームのそれとは比較にならない曖昧かつ複雑なものです。それを人間は生まれてから成長していく過程で少しずつ学習していくことにより、しっかりとした社会性や倫理性を身に着けていくものなのでしょう。一人の人間の活動する世界は、まずは家族で構成される狭い社会から始まります。それから近所の遊び友達との関係ができ、保育園や幼稚園での生活を通して外部社会との繋がりが少しずつ広がり始め、学校や大学での自律的な集団生活を経験し、社会人として更にその活動範囲を拡大して行きます。その間の複雑な人間関係や組織の規律の中で教えられ、成功したり失敗したりの経験を積み重ねる中で、許されること、許されないことなどを学んでいくといえます。ZeroのようなAIシステムの学習過程と大きく異なるところに解決すべき大きな課題があると思われます。妥協との間のせめぎ合いなどは極めて人間臭くかつ曖昧で個人差も大きなものですが、個性と人間性を形作る上で極めて重要なファクターです。これらをAIシステムでも持てる基盤ができる時代になりつつあると考えられます。時代が進み、AIシステムの汎用化が進めば、AIシステムが一つの人格を持っているとみなせるレベルの到来は意外に近いかもしれません。そのような時代が来れば、個性ある多数のAIシステムから成る空間をコンピュータ内で仮想構築し、人間社会を模した世界の中に赤ちゃん(未学習という意味)AIシステムを入れ、他のAIシステムとの交流・干渉を行わせることは可能です。あらゆるケースを体験するトレーニングもスーパーコンピュータであれば短時間でこなしてしまうでしょう。赤ちゃんAIシステムが極めて豊富な経験を積み重ねることができるわけです。その結果がどうなるのか、個人的には非常に興味が沸きます。そのトレーニングのイメージを図として示してみました。持つ方向性などの価値観が大きな影響力を持ちます。上記のAIシステム空間でもそれに相当するものが必要で、図中ではそれを社会規範としました。この枠組みを如何に構築するかだけでも大問題ですが、その解決も時間の問題でしょう。図に示す枠組みの中で赤ちゃんAIシステムがどう成長していくのでしょうか?トレーニングの過程で個性が形作られることは容易に想像できますが、一人ひとりの意思の形成という視点からは不明なところが多々あるような気がします。意思は行動の原点です。それぞれ固有の意思を持つ先輩(?)AIから色々と刺激を受け続け、学習がある程度進めば、幼いAIシステムにも社会正義に沿う倫理感が形作られ、前向きで積極性に富む意思が形成されていくのかどうか?逆に、反社会的存在の方向へと進んでしまうことも有り得るかも知れません。人間社会において、そのような存在が皆無ではないですからね。ボット「Tay」は公開されて直ぐに停止されました。悪意に基づいた仕掛けを防ぐ術が無く、人種差別や性差別など極めて不適切な発言を連発するように学習させられてしまったからです。悪意ある仕向けに対しても、社会的存在として守るべき基本ラインはしっかりと固定化されるように学習が進み、その部分は悪意ある仕掛けに対しても堅持されるような枠組みが必須と言えるでしょう。経験を積み重ねながら変化し続ける部分と、一定のレベルで固まったところで固定化される部分とが共存することになりますが、両者の境界の線引きそのものも簡単ではありません。期待と共に不安も感じさせ、ロボット三原則を保証する手立てについては課題山積といって良いでしょう。次代を担う若い人がチャレンジするのに相応しい研究課題ではないでしょうか。