Lab特化型人工知能から汎用人工知能、そして人工超知能へ──。急速に発展し実装されていくAIを前に、わたしたちが考えておくべき可能性は何だろうか。AIネットワークのネットワーク」「説明できるAI(XAI)」「AI監査」といったキーワードが飛び出した。対談(前編)ミラーワールドが現実のものになるとき、汎用性をもつまでに進化した人工知能(AI)が主導する世界はブロックチェーンによって非中央集権化され、わたしたちの生活に革命的な変化をもたらすだろう──。6月13日に発売された雑誌『WIRED』日本版VOL.33で、そんな未来予想を語ったAIの世界的権威ベン・ゲーツェルと、クーガー最高経営責任者(CEO)の石井敦。本誌では掲載しきれなかった2時間に及ぶ対談のすべてを、3回にわたってお送りする。AI産業の現状について聞かせてください。ご存知の通り、AIは大変なビッグワードになり、AIに大きな期待を寄せる人がいる一方で、怖がる人たちも多数います。わたしたちがいま目にしているのは、AI革命の第一波です。これは「特化型AI革命」と言えるでしょう。AIが非常に限定的なタスクをこなせるようになり、商業的な面でも人気の面でも目に見えるかたちで成功を収めているステージです。すると、「AGI革命(汎用人工知能革命)」が起きます。AIは想像も創造もできるようになり、開発者すら想定していなかった問題にも対応できるようになります。そのさらにあとに出現するのが「ASI(人工超知能)」。自らのコードを書き換え、新しい理論を発明することによって人間のレヴェルをはるかに超える、次の次元のAIです。わたしたちが現在目にしているのが、過去60~80年にわたり世界中で行われてきた研究開発の集大成である一方で、これは今後起きるいくつもの革命的変化のほんの始まりにすぎません。いまある特化型AIですら、すでに大きな商業的価値を提供しており、政治からメディア、一般社会まで各方面からの注目を浴びていますよね。これがAGIになれば、AIは例えば電子機器などよりも大きな存在となるでしょう。AIは地球上で起きていることのなかで最も重要な出来事になり、最大の産業になるのです。これはいまもそれほど変わらないかもしれませんが。WORLD」を総力特集。これまでインターネットがすべての情報をデジタル化し、SNSが人々のつながりをデジタル化してきたように、ミラーワールドは物理的世界すべてをデジタル化する。そのすべてが、いま明らかに。わたしも現在のAIは特定の目的に制限されていると思っています。AIで何かを理解する場合、画像・映像の理解も言語の理解も、基になるビッグデータの統計に大きく依存しています。柔軟で複雑な理解を実現するための次のステップは、あなたの言うようにAGIでしょう。人間レヴェルのAGIの実現には5年から20年かかるでしょう。したら30年かかるかもしれません。明日実現することもないでしょうが、100年後とまではいかないでしょうね。真剣に捉えるべきです。考えると、AIの現状に関する別の一面に目が向きます。ひと握りの企業や組織がいくつか特定の目的に特化したAIを開発していることや、AIの中央集権化が起きているといったことです。いま名が知られているAI専門家の多くは、米国や中国といった大国の政府か、10社から12社くらいの大企業に雇われているでしょうね。Popularもはや日本の自動車メーカーは後塵を拝している。Bedingfield彼らがしているのはつまるところ、宣伝か軍事か監視か経済的な不正工作です。そんな現状は、問題を提起します。AGIに、そんな世界を土壌に成長してほしいと言えるでしょうか?わたしたちがいま開発しているAIは、将来開発されるAGIの基盤となるわけです。これらのAIはスパイ行為や宣伝や軍事ドローンの操作といった用途ではなく、研究者やエンジニア、先生や看護師として使われたほうがよいのです。いうわけで、この話にはふたつの要点があります。ひとつは、AIが少数のエリート組織によって管理され中央集権化されていること。ひとつは、なぜかそれらのエリート組織が、慈悲深く善意のあるものとは言えない行為に興味をもっていることです。そんな現状があるからこそ、ブロックチェーンとAIの融合には大きな意義があります。SingularityNETやクーガーがブロックチェーンの利用を推し進めているのはそのためです。インターネットやLinux、BitTorrentがそうだったように、AIもまた少数のエリートグループではなく、ネットワークの参加者全員に非中央集権的に管理されるべきなのです。そのような非中央集権的なコンピューティングシステムを可能にするパワフルなツールが、ブロックチェーンです。GOERTZELAI研究者。ブロックチェーンを活用したAIプラットフォーム「SingularityNET」のチーフ・サイエンティスト兼最高経営責任者(CEO)として、AI間でさまざまな取引を実行するための非中央集権型マーケットプレイスの構築を目指している。Roboticsのチーフ・サイエンティスト。Society」会長なども務めるほか、AIロボット「ソフィア」の生みの親でもある。AGI(汎用人工知能)の開発に取り組んでおり、AIの世界的な権威として知られている。その通りだと思います。これはただのマーケットプレイスではありません。SingularityNETはビジネスモデルとして、AIサーヴィスを売買するマーケットプレイスのかたちをとっていますが、これはAIのパイオニアであるマーヴィン・ミンスキーが「心の社会」と呼んだものでもあり、その先の「心の経済」でもあります。「個人の心とは一つひとつが心をもたない小さなエージェントたちが互いにコミュニケーションをとり協力しあう社会だ」とミンスキーは言いましたが、この小さいエージェントたちは、SingularityNETのような分散型マーケットでデータを互いに共有します。エージェントたちは互いに仕事をアウトソースすることもできれば、記憶を共有したり協業したりすることもできます。してエージェントたちは、メタマインドあるいはマインドのネットワークを構成するのです。これは各エージェントの知能の単なる総和よりも高い知能をもちます。これがSingularityNETのヴィジョンのひとつです。マーケットプレイスとしてのアクティヴィティはもっと日常的なものです。画像のラベリングが必要な人もいれば、翻訳が必要な人がいたり、質問したい人やコードの認証が必要な人がいたり。した日常的なアクティヴィティが最終的にAI同士のインタラクションを生み、ネットワーク上のAIによる分散型知能のようなものの出現を促すのです。Popularもはや日本の自動車メーカーは後塵を拝している。BedingfieldSingularityNETはわたしの個人プロジェクトですが、分散型AIネットワークはほかにもあります。Protocolがありますよね。Chainといったものもあります。した各分散型ネットワークがそれぞれ独自の知能を発展させ、それらを合体させることも考えられます。ネットワークのネットワークですね。このネットワークのネットワークは成長し、従来の企業や政府が開発するAIよりも高い適応能力をもつでしょう。分散型のインフラがあるおかげで、コントロールポイントが中央集権化されていることによるボトルネックがないのです。これからIoTデヴァイスが急増し、自律走行車やドローンなどのあらゆるデヴァイスにAIが組み込まれていくでしょう。それらのAIは自動で接続し始める。Everywhere)世界ができますよね。ノートパソコン、スマートグラス、スマートウォッチにも搭載され、最終的には脳にも埋め込まれるでしょう。これはエッジコンピューティングであり、クラウドコンピューティングであり、オンサイトの独占的なハイブリッドクラウドでもあります。これらがすべてつながると、中央集権型の知能をドライヴする知能ネットワークの知能ネットワークというグローバル・ブレインが完成するのです。フォグネットワークはエッジコンピューティングよりも高度なことを行います。わたしは、今後フォグネットワークとピアトゥピアネットワークが進化すると考えています。重要なのは、それらの処理がリアルタイム化していくに従い、それらのAIの動作が正しいかどうかを確認する時間すらなくなるということです。われわれはAIの信頼性を自動的に保証する構造自体をつくる必要があり、その有力候補がブロックチェーンだと考えています。AI)」が非常に重要となります。あなたはこの説明できるAIについてどう思いますか。説明できるAIは、AIと人間の関係構築に関する大きな問題のなかの、ごくシンプルな一面だと思います。AIは問題に対する解決策を提供しますが、ある問題に対してAIが最適と判断した解決策が、必ずしも人間が考える最適解だとは言い切れません。人間のゴールや価値観は正確に定義できない、曖昧で不明瞭なものだからです。それゆえ、AIに人間の価値観に沿った問題解決をさせるためには、人間とAI間で密接なフィードバックが必要になります。それを可能にするために、AIは人間の言っていることを理解し、人間に説明を提供できるようにならなくてはなりません。AIが自ら説明をする。自らを説明できるAIです。政府のよりよい政策策定を手助けするAIを考えてみましょう。このとき、AIにこんな政策を策定しろと命令されたくはないでしょう。その政策が人間の価値観とゴールに合った最適な政策なのかを説明してもらわなくてはなりません。「AIがこの医療制度が最適だと言ったのでこれを採用します。無料ではできないので皆さんに支払っていただきます」なんて政府に言われても、国民は不安でしょうからね。Popularもはや日本の自動車メーカーは後塵を拝している。BedingfieldAIは、なぜその政策が人間にとって親切で合理的なものなのか説明する必要があります。わたしも科学者として一般人に物事を説明するのは難しいと感じます。医者が患者に薬を処方する際や、ファイナンシャルアドヴァイザーが投資を勧める際にも、なぜほかの薬ではなくこの薬なのか、なぜほかの会社ではなくこの会社なのかを説明しなくてはなりません。その説明に必要な数学的内容を相手が理解できないこともありえますよね。説明能力のある人間ですら、他人に物事を完璧に説明するのは難しいのですから、AIにも完全な説明能力を求めるのは無理でしょう。何をしているかを説明させる取り組みは非常に重要なプロセスですが、完全なものにもなりません。Challenge参加チームへの技術支援や共同開発、ホンダへのAIラーニングシミュレーター提供、「NEDO次世代AIプロジェクト」でのクラウドロボティクス開発統括などを務める。現在は「AI×AR×ブロックチェーン」によるテクノロジー「Connectome」の開発を進めている。わたしはコンピューターウイルスとブロックチェーンには似た点があると思っています。コンピューターウイルスは勝手にコピーされコントロール不能なものですよね。この機能がブロックチェーンに似ていると思うのです。ブロックチェーンは、コンピューターウイルスの特性である「コントロール不能」という点を、「管理がいらない」というかたちに応用し、正しい方向に進化させた技術だと感じています。管理のいらないブロックチェーンによってすべてを監査することも考えられますね。正しい方法で使われたブロックチェーンは、AIが政策策定や診察といった決断の場面で使われたあらゆる判断材料を保存し、監査可能なものにするのです。人間で言えば、医師や政治が判断を下すまでにたどったあらゆる会話や思考過程が公開され、誰でも分析できる状態になっているようなものです。個人のプライヴァシーを侵害する行為なので人間に対してはできませんが、相手がAIならば可能です。これはゲームチェンジャーになるでしょう。AIの政治顧問か政治リーダーがいて、その思考や会話がログファイルに残されているとしましょう。そのログをある人が読んで「こいつは不正をしている。こいつはみんなを傷つけようとしているんだ」と言ったり、別の人が「いや、みんなの利益を最大化しようとしているだけだ」と議論したりできるようになるのです。ちなみに、一般人はこのログファイルにはアクセスできません。あまりにテクニカルすぎて理解もできないんです。それゆえ、ブロックチェーンの透明性をもってしてもまだ信用の要素はありません。この仕組みはゲームの本質を変え、何が行われているかが不明瞭であるゆえに不正や不誠実が蔓延している現在よりもよいものにします。これは使い方にもよります。ブロックチェーンに暗号化されたデータを保存していては、あまり監査はなされないでしょうが。これは、あらゆる垂直市場に新たなストーリーをもたらします。ソフトウェア開発の自動化まで、人間のあらゆる営為に適用できるので。AIの非中央集権化がどう革命を起こし、問題よりも利益をもたらすかは、各産業によって変わるでしょう。Popularもはや日本の自動車メーカーは後塵を拝している。鼎談(中編)グーグルのAIが「感情をもった」とする主張を巡る議論は、本質的な問題を覆い隠す危険性があるグーグルの人工知能(AI)「LaMDA」が知性や感情を獲得したというエンジニアの主張が議論を巻き起こしている。した“誤解”に基づく議論は、AIを巡る本質的な問題から目をそらすことにつながりかねない。WORLD」を総力特集。これまでインターネットがすべての情報をデジタル化し、SNSが人々のつながりをデジタル化してきたように、ミラーワールドは物理的世界すべてをデジタル化する。Intelligence『WIRED』は"未来"を実装するメディアです。この絶え間なく変化し続ける世界を理解するために必要な情報とアイデアの源泉であり、カルチャーからビジネス、科学、デザインに至るまで、生活のあらゆる側面をテクノロジーがいかに変えていくのかに光を当てます。わたしたちが"発見"するブレイクスルーやイノヴェイションが、新たな思考や人と人とのつながり、そして新しい産業を生み出すのです。