龍コメント(0)Tweet本記事は、未来館フォーカス関連イベントに関するものです。同内容は未来館フォーカス特別ページ内でもお読みいただけます。)人工知能(AI)の急速な発達により、私たちの生活はどのように変わっていくのでしょうか。そのとき、人間は社会でどのような役割を担っているのでしょうか。社会」を切り口に研究者やクリエイターと一緒に想像してみようと、日本科学未来館は2019年9月13日(金)、トークセッション「イマジネーション×サイエンス~人工知能がつくる未来を想像する~」を未来館のシンボルゾーンで開催し、約320名が参加しました。本トークセッションは、科学技術が関わる重要な社会課題の一つを未来館が注目して取り上げる「Miraikanフォーカス」の第一弾イベントとして企画されました。1時間半におよんだ当日の議論から「これからのAI社会」と「人間らしさ」の二つに焦点を当てて、登壇者の発言の一部を要約・抜粋したうえで報告します。宮田龍)トークセッションの様子。Human』の脚本とディレクターをつとめる、クアンティック・ドリームCEOのデイヴィッド・ケイジ氏。システム情報系助教であり、SFが現代のAI技術に与えた影響を研究するプロジェクト「想像力のアップデート:人工知能のデザインフィクション」のリーダーをつとめる大澤博隆氏の3名です。Human』が描く未来の世界を題材に議論が進められました。作品の舞台は、2038年の米国、デトロイト。人間と同等の外見、知性を兼ね備えたアンドロイドが、社会にとって不可欠な存在となる一方で、職を奪われた人々による反アンドロイド感情が高まるなど、社会には新たな軋轢と緊張が生まれはじめています。そんな中、あたかも自らの意志を持つかのように行動しはじめたアンドロイドたちが現れるというストーリー。2018年5月にPlayStation®4用ソフトウェアとして発売され、プレイヤーの選択によってストーリーが変化するオープンシナリオアドベンチャーと呼ばれるジャンルのゲームです。人によって対応は違うということを率直に申し上げなければなりません。アンドロイドに愛情のような感情を持つ人たちもいるでしょうし、アンドロイドを嫌悪する人もいるでしょう。機械としか見ず、まったく感情を抱かない人たちもいるでしょう。作品では、人間とアンドロイドのこういった多様な関係性について描かなければならないと思ったわけです。私たちは常に技術の恩恵を受けていますが、その犠牲になる人たちもいます。新しい技術で職を失う人たちもいるかもしれません。所得の格差による問題もあります。お金持ちは技術の恩恵を受けることができるが、貧しい人たちは手に入れることができない。その時に、人びとがそれぞれの技術に対して抱く感情は個人のレベル、そして、社会全体において、非常に複雑な状況が存在します。アンドロイドが人間にすごく近い姿になって非常に繊細な表情で働きかけてきたら、心が動いてしまうことはあり得るだろうなと思いました。作中のアンドロイドたちはものすごい表情が豊かで、本当に感動したのですけれども、特にコナーさん(注・作品の3体の主人公アンドロイドのうちの一体)は一見命令に従うようで、苦悩した表情を見せるなどアンドロイドなのに意外に表情豊かで、そのギャップにやられてしまうわけです。ある種のそういったギャップが人をひきつけるところであり、不可避的に心が動いてしまうところもあるのではないかなと思いますね。僕がこの作品で一番印象深かったシーンは、アンドロイドであるマーカス(注・作品の3体の主人公アンドロイドのうちの一体)が街を歩いていると、アンドロイドの普及で仕事を失ってしまった人たちに胸ぐらをつかまれて、「お前のせいで失業したんだ」って言われて。AIの開発者としてぼくは結構トラウマになってしまったのですが、実はここに論理では割り切れない人間の感情があると思うのです。仕事を奪われる、奪われないという問題でいえば、実は1995年以降にコンピューターが奪った仕事の方が、AIが奪った仕事より多いと思います。コンピューターってサーバールームにあるので胸ぐらをつかまないですけど、人間の形をしていると、どうしてもそこに自分と同じ知性があると思い込んでしまいます。怒りの感情を持ってしまう。人の姿をしているためにアンドロイドの知能を過剰に高く評価して、そこまで脅威ではなく、人間の能力に匹敵しないにもかかわらず、想像の中で感情っていうのが生じてしまうということがあるのではないかと思います。現代のAIは、一つの問題に対しては人間よりはるかに賢くなりますけど、総合的な知能としてはやっぱり人間の方がいまだに勝っています。知能が測れないっていうのは、分かった方がいいと思っています。実現したときに私たちの社会が一体どんな風になっていくのか、作品ではテクノロジーがもたらす光と陰が描かれています。AIやアンドロイドの実現による飛躍的な生産性の向上は、社会に豊かさをもたらした一方で、疎外され、これまで以上に貧困にあえぐ人たちは、テクノロジーに対する反感を持っています。雇用の問題だけでなく、その先にある格差の拡大や社会の分断までが描かれています。それは誰にもわかりませんが、もしかしたら新しい雇用が生み出されるかもしれなく、そうすると失業率は低いままかもしれません。蒸気機関が登場したとき、確かに職を奪われた人もいるでしょうが、新しい雇用も数多く生まれました。なるかはわかりませんが、AIもアンドロイドなどのロボット技術もこれからの未来に重要なものです。テクノロジーとうまく付き合うために、社会をどのようにデザインしていけば良いのか問われています。実はIEEE(米国電気電子学会)という工学系の学会で、新しくAIについての倫理基準について考えるときに、まさしく人間らしい存在が人間に与えてしまうさまざまなリスクが議論になったのです。作中のアンドロイドのように人間らしい存在が親密に人と接すると、ものすごく人の趣向を変えてしまうので、それが企業に悪用されて何か特定の商品を勧めるようなことができてしまう。このようなAIの悪用を規制するかどうかということでかなり議論がありました。僕は反対の立場ですが、それはある種の表現の規制に広くかかわってしまうからです。私たち人間が人型のものから影響を受けてしまうのは確かで、何らかの倫理基準みたいなものを社会の中でのコンセンサスとして持っておいた方がいいのかなという気はして、悩んでいるところではあります。AIがこれまでの技術と違う点は2点あると思っています。人間の命令がなくても、一度作った後はAIが自律的に動いてしまう。二つ目は知能であるという点です。人と人の関係性をこれまでのテクノロジーは変えることはできなかった。エレベーターができても電子レンジができても、人と人の関係はそのままだった。ところがAIが持つ、これまでのテクノロジーになかった可能性っていうのは、人と人との関係の距離を変えることができることです。過剰なコミュニケーションによってヒートアップしています。喧嘩している人と人の間に割って入って状況を緩和できるのはAIだけです。AIがうまく入ることによって人と人との摩擦をうまく除去してくれるような社会のデザインが可能になっていきます。これまで人間中心の社会、人間中心の都市といわれてきましたが、乗り物も町もすべて人とAIがうまく共生できるようなデザインになっていけば、人間だけで社会を動かすんだという重荷からようやく解放されるんじゃないかと考えています。「今日おれが会社に行かないと仕事がまわらない」って考えて、みなさん頑張っているわけですよね。「お前がいなくてもAIがやってくれたけど?」みたいな。何か悔しい気もするけど、それでいいのかなと思っていて、人間の性能が10で、人工知能が5の性能で働くのだとしたら、38°Cの熱が出たら休んでもいいかなってなるかもしれません。現在、なかなか休めない方がいると思いますが、そういう自分だけが社会を動かしているという意識で苦しんでいるところをAIが救ってくれるんじゃないかなと考えています。AIと人間のコミュニケーションにはリスクもあります。このことは作品の中で探求したテーマの一つです。作中では、アンドロイドと恋人や夫婦のようなパートナー関係を結んだ人間が、アンドロイドとしか関係性をもたなくなることを問題にしている描写があります。AIは人間とコミュニケーションができる可能性がありますが、同時に人間を孤立させてしまう、もしくは利己的にさせてしまうかもしれません。これから先テクノロジーに対してどのような選択をしていくかは我々自身にかかっていて、その決断をしなければならないのです。中毒みたいなものが、将来ひょっとしたら出てくるかもしれません。使い方について我々は残念ながら試行錯誤しながら見極めていくしかないのかなと考えています。人間はずっと地球上で最も高い知能をもつ生命として孤独であると思うんですね。対等な存在からの視線をずっと無意識の中で望んでいて、それが今AIの進化を促進している一つのモチベーションになっていると思います。実際に同じ知能をもつAIが生まれたら同時に恐れを感じる。作品制作を通じて気づいた点を教えてください。人間らしさについて二つ重要な点があると思います。何かを犠牲にして誰かのために貢献するということ。それに見返りを求めないということ。誰かによくしたいということ。高度なAIを搭載したアンドロイドがそのような共感を持てるかどうか。二つ目は、死に恐怖を覚えるかということ。人間はすべて死ぬことを恐れています。人間によってプログラムされたAIは死を意識しないかもしれませんが、もしかしたらある段階で死を恐れる感情を持つかもしれない。死ぬことによって自分自身の存在をなくしてしまうことに恐怖を覚える。これは新しい知性の形ということになるかもしれません。ゲームAIの開発で最初にキャラクターの身体ができたときは、まだ中身は空っぽなんです。世界に対して何の執着もなくて、悟りきった状態です。それをゲーム開発の過程で、真逆に堕落させていくんです。「この木の実は美味しいよ」とか、「あのプレイヤーは悪いやつだよ」とか、キャラクターにどんどん偏見を与えていくのです。対称的な状態からもどんどん非対称な状態に落としていく。世界にある混沌とつなげて、いろいろな矛盾を抱えさせていく。いろんな欲求をどんどん入れて衝突させるんです。その衝突が強ければ強いほど、ゲームAIは人間らしくなっていくのです。最近は自我をもつコンピューターを作ろうっていう研究があります。自分は成功すると信じています。自我の問題が難しいのは、コンピューターが「俺は人間だ」と言ったとして、そのセリフ自体がプログラムされているかもしれないっていう難しさがあるんです。人間同士でも、互いに自我があるかどうかを知るすべはない。重要なのはこれからの人間らしさと言ったときに、中身がコンピューターであるかどうかっていうことはあまり問われなくて、我々人間がコンピューターのふるまいをどういう風に受けとめるかがより重要になってくると思っています。最後に、これからの社会をデザインしていくうえでSFの役割は何でしょうか。フィクションには「悪いこと」を想像する役割があると思います。それが起きる前に警告として想像することで、私たちは避ける方法を生み出すことができます。Human』の世界が実現したとして、そのときに対策を考えても遅すぎます。今この段階で考えなければいけないのです。私は「1984」(注・監視社会の到来を描いた1949年の小説)がとても好きですが、「1984」は私たちの現在の社会をとてもうまく表していると思います。Human』がこの先の未来を予測するものにならなければいいと思っています。テクノロジーと私たちとのより良い関係をつくる材料になればと願っています。僕の最終的な目標は、ゲームのキャラクターに自我を持たせたい。AIをつくることの何が面白いかというと、人間をどんどん相対化して見ることができるところにあります。今、世界中でいろんな争いが起こっていますが、やっぱりそれは人間だけがそこにいるという意識が強すぎるからだと思います。並ぶような知性だということをゲームAIの開発を通してどんどん見せていきたい。SFの一つの価値として言われるのは非常に相対的な視点を持ってくるということです。人間も社会も、どうしても考えが一つの方向に固まりがちです。そこから、あなたが考えていることとは別の方向性もあるんだよって、ちょっと視点を外してくれるというところが大きい。SFは未来予想図と言われがちですが、未来のあり得る可能性にいくつかの像を与えてくれると考えて、その中から自分の好きなものを見つけていければいい。その手助けになれば一番ありがたい形なんじゃないかなと思っています。人類のコンサルの役割としてSFがあるんじゃないかなと思います。未来館のシンボル展示「ジオ・コスモス」の前で記念撮影トークセッションを終えて90分と長丁場のトークセッションでしたが、満席状態の客席の視線は常に真剣で、終始登壇者に向けられていました。登壇者の方々もそれぞれの異なった分野の意見に興味津々で、特にケイジ氏の目を輝かせて食い入るように聞く姿勢が印象的でした。SFは未来の可能性を提示し、その中から好きな未来像を思い描くきっかけをくれると大澤氏の話にあったように、今回のトークセッションを通じて参加した人それぞれの中に「こんな未来を生きたい」という想像力が生まれてくれれば、本イベントを企画・ファシリテーションをした科学コミュニケ―ターとして望外の喜びです。皆さんの中に生まれた未来像を具体的に創造していくために、今の科学技術を起点にこれからも皆さんと対話していきたいと思います。目を離すとすぐいなくなる。気になるものを見つけるとワクワクして迷子になったことにも気づかない子ども供時代でした。学部では宇宙を研究していましたが、文化系も好きなことから欲張って、大学院から社会物理学を研究。大統領や総理大臣の支持率とにらめっこしながら文理の壁を壊すことに夢中でした。社会人をへて、社会と科学の壁をなくしていきたいと思い2017年より未来館へ。INNOVATION。