深層学習は万能薬ではない。ニューヨーク大学のゲイリー・マーカス教授(ウーバーAI研究所元所長)は、より広い視野を持って安全なAIを構築するべきだと訴えている。Hao2020.01.31104412821ニューヨーク大学のゲイリー・マーカス教授は、深層学習に関する誇大広告を冷めた目で見ている。深層学習が人工知能(AI)の進歩に重要な役割を果たしてきたことは認めているものの、深層学習へ重点を置きすぎればAI分野に終焉をもたらすのではないかと憂慮している。AI研究の最前線を走ってきた神経科学者のマーカス教授は、技術面と倫理面の両面で懸念を示す。技術的観点からいえば、深層学習は画像や音声認識など人間の脳の知覚タスクを模倣するのに適している可能性がある。会話や因果関係を理解するなど他のタスクには力不足だ。汎用人工知能(AGI)と呼ばれる、より高性能でより幅広い知性を宿す機械を作り出すには、深層学習と他の手法と組み合わせなければならないという。AIシステムが、タスクやその周辺世界を正確に理解していない場合、危険な結果につながる可能性もある。システム環境に予期しない変化がわずかでもあれば、うまく機能しないかもしれないのだ。例を挙げればきりがない。簡単にだませるヘイトスピーチ検出器、差別を固定化させる求職申込システム、しばしば運転者や歩行者の死亡事故を起こす自動運転車などだ。人工知能の探究は、研究課題以上に興味深い。それは現実世界と密接な関係にある。AI』(2019年、未邦訳)の中で、新しい道を示している。マーカス教授とデイビス教授は、現時点では本書の中で示した汎用人工知能の構築は不可能だと考えているが、最終的には構築可能だと確信している。深層学習の弱点や、関係者が人間の心から学べる教訓、そしてマーカス教授が楽観的である理由について取材した。以下のインタビューは、内容を明確にするため要約・編集されている。#——すでに多くの価値が「特化型AI」によって生み出されていますが、なぜ汎用人工知能が必要なのでしょうか?特化型AIは多くの価値を生み出してきましたし、今後もさらに多くの価値を生み出していくでしょう。いえ、特化型AIではうまく対応できない問題も数多くあります。人間が話す言語の理解やバーチャル世界における総合的支援、あるいは、家の片付けをしたり夕食を作ったりする自律式ロボット家政婦「ロージー」(訳者注:米国の人気アニメ『宇宙家族ジェットソン』に出てくるロボット)のようなものがそうです。これらは、特化型AIでは不可能です。特化型AIが安全な無人乗用車を実現できるかどうかも興味深い疑問になるでしょうね。これまでのところ、特化型AIが例外的なケースに関して多くの問題を抱えているのが現実です。ある程度制約のある自動運転に関してもそれは同様です。一般的に言えば、医学分野におけるAIによる大規模で新たな発見が望まれていると思っています。生物学は複雑なので、現在の手法で達成できるかは不明です。正確に文献を読み解く力が必要ですから。科学者は、ネットワークと分子の相互作用の因果関係を理解し、軌道と惑星の関係についての理論などを展開できます。特化型AIで同レベルのイノベーションを起こすのは不可能です。汎用人工知能を用いれば、科学やテクノロジー、医学に革命を起こせるかもしれません。外的作用の影響を受けない「ロバスト(堅牢)なAI」を指すとおっしゃっているように聞こえます。汎用人工知能とは、臨機応変に思考し、新しい問題を自ら解決できるAIのことです。囲碁とは対照的ですね。囲碁は2000年もの間、問題(ルール)が変わらなかったのですから。汎用人工知能は、医学だけでなく政治についても同様にうまく推論できなければなりません。AIは人間を模したものです。ある程度賢い人ならば、さまざまなことができるはずです。インターンの学部生でも、数日もすれば法的問題から医学的問題にいたるまで、本質的には何にでも取り組めるようになります。それは、学生たちが社会に関して一般的な知識を持ち、文字を読めるからです。そのために、幅広い事象に取り組めるのです。...こちらは有料会員限定の記事です。有料会員になると制限なしにご利用いただけます。有料会員にはメリットがいっぱい!毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。重要テーマが押さえられる。各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。有料プランの詳細を見るログインして読む宇宙ビジネスの時代かつて国家主導だった宇宙開発がいま、大きく変化している。テクノロジーの進化とリスクマネーの流入によって民間企業による宇宙開発が加速し、自社の事業拡大に宇宙を活用しようとする「非宇宙」企業やベンチャー企業の動きも活発だ。そのヒントとなる記事を集めた。北朝鮮系のハッカー集団が暗号通貨取引所から多額の資金を盗み続けている。侵入手口の巧妙化に加え、暗号通貨を匿名で現金化できる資金洗浄インフラの増加も背景だ。Orcutt加州の2045年炭素中立化は実現可能、「バイオマス」にカギ2045年までに「カーボンニュートラル」を目指すカリフォルニア州の大胆な目標は、その実現性が疑問視されている。ローレンス・リバモア国立研究所の研究グループは、技術的には実現可能との見解を示した。アプリ、どこが問題か?新型コロナウイルス感染症の感染者との濃厚接触の可能性を調べるために中国政府が提供しているアプリは、人々に誤った安心感を与えるうえに、市民の分断を招く可能性がある。自律型の乗り物やドローン、量子コンピューティングについて。「深層学習の父」も注目のAIピッキングロボ、倉庫作業員を置き換え米国のスタートアップ企業が、強化学習の手法を用いて、かつてない正確さで商品を判別して移動させるロボットアームを開発し、すでにドイツの電子機器メーカーの倉庫などで実運用されていることが明らかになった。人工知能研究の著名人などから2700万ドルの資金を調達している注目企業だ。深層学習に基づく自然言語処理技術は最近、長足の進歩を遂げているが、人工知能(AI)は読んだ文をどれだけ本当に理解しているのだろうか?アレン人工知能研究所(AI2)の研究チームは、機械が文の意味をどれだけ理解しているのかを評価するための新たな大規模データセットを作成し、最先端の言語モデルでテストして人間の結果と比較した。Hao「説明可能なAI」はなぜ透明性を高めるだけではダメなのか?深層学習の人工知能(AI)システムがさまざまな分野で使われるようになるにつれ、ブラックボックス批判が高まっている。AIをただ「説明可能」にするだけでは不十分だ。世界を理解するための知識を獲得していただくためにあります。よって、あるいは口述記録の形態によっても、製品にしたり、公衆向けか個人用かに関わらず送信したり複製したりすることはできません。