LevyBusiness2023.05.20AIの愚かさを指摘していた専門家が、今になって規制の必要性を訴える理由AIの専門家として活動するゲイリー・マーカスはこれまで、AI技術は過大評価されていると主張してきた。最近になって、AIは危険で直ちに規制されるべきだと語るようになった。『WIRED』エディター・アット・ラージ(編集主幹)のスティーヴン・レヴィがこの点について話を訊いた。人工知能(AI)の専門家として活動するゲイリー・マーカスは、連絡をすればいつでも話す時間を作ってくれる、私のようなジャーナリストにとっては非常にありがたい存在だ。Minutes』への出演などを控えて非常に多忙だったにも関わらず、わざわざ私のために時間を割いてくれたのである。5月上旬、私は再びマーカスに電話をかけた。彼の徹底したAI批判の姿勢に何か変化はないかと気になったのだ。Joe』への出演と被らないように予定を調整し、その翌日にZoomで話す時間をつくってくれた。Times』の日曜版がオンラインで公開されたのだが、そこにはマーカスの長編インタビューも掲載されていた。インタビュワーは過去に経済学者のトーマス・ピケティや劇作家のトム・ストッパード、ミュージシャンのイギー・ポップなどを取材した経験のあるデイビット・マルケーセだ。マーカスはこのインタビューの出来栄えに非常に満足していた様子だった。AI専門家は信用に足る存在かOpenAIの「ChatGPT」やグーグルの「Bard」をはじめとする数多くの大規模言語モデル(LLM)はこのところ急速な発展を見せており、どうも恐ろしい。米国大統領のジョー・バイデンも同じように思ったのか、5月4日にはAIの専門家らを召集してどのような対策を講じるべきかを検討した。そこにはOpenAIのCEOを務めるサム・アルトマンなども出席したのだが、開発者側のアルトマンでさえ何らかの規制が必要だと提言したほどだった。イタリアなどはChatGPTの利用を一時的に禁止(4月29日に解除済み)しているが、今後AIについての議論はどんどんと国際的なものになっていくだろう。グーグル、検索にジェネレーティブAI追加を発表。Dave突如としてAIに関する議論に関心が集まり、AIが多くのメディアのホットピックとなったことにより、取材に対応できる専門家の需要が急増した。メディアが求めているのは、AIに対して分かりやすく尚且つ辛口なコメントをくれる専門家だ。そこで白羽の矢が立ったのがマーカスだった。53歳の起業家でニューヨーク大学の名誉教授であるマーカスは、AIの話題に進展があるたびにメディアが取材に訪れるご意見番となった。マーカスは現在カナダのバンクーバーに住んでいるのだが、あまりに忙しいため彼自身のAIボットがいた方が良いのではないかと思えるほどだ。Machines(人対機械)」というポッドキャストシリーズは、Appleのテクノロジー系ポッドキャストのランキングで4位の位置につけるほどの人気だ。世間にはマーカスがAIの専門家を名乗っていることに疑問を持っている人もいるが、ともかく彼の経歴はこうだ。過去23年間をニューヨーク大学で過ごし、専門は心理学であり、コンピューターサイエンスではない。IntelligenceというAI企業を共同設立した。Popularもはや日本の自動車メーカーは後塵を拝している。Rogersマーカスは16年、同社をUberに売却し、少しの間だけ当時のCEOだったトラビス・カラニックのAIアドバイザーを務めていた。それが今になってAI開発企業を批判する側に回っているというのは、おかしな経歴と言えるかもしれない。AIというロボティクス企業を共同設立し、21年に同社を去った。AIへの関心を追求しつつも、マーカスは一貫してディープラーニング(深層学習)に対して懐疑的な見方を示していた。ブラックボックスのように不可解な振る舞いをする数学的なノードの集まりは過大評価されており、推論と論理に基づく古典的なAIにはまだ重要な役割があると主張したのだ。マーカスは以前、ディープラーニングの先駆者として19年にチューリング賞を受賞したAI科学者であり、現在はメタ・プラットフォームズのチーフAIサイエンティスト及びニューヨーク大学の教授を務めるヤン・ルカンと、この話題について公開討論を実施した。討論中は両者とも紳士的に振る舞っていたが、後日マーカスがディープラーニングの功績は過大評価されていると改めて主張すると、ふたりの議論はTwitter上での過激なやりとりに発展した。マーカスのディープラーニングへの批判に対し、ルカンの基本的な反応は「マーカスは自分が何を言っているのかを理解していない」というものだ。「空虚な議論には参加しません」とルカンは一度ツイートしている。これは、マーカスがディープラーニングの制限に関するいくつかの主張に対してルカンに反応するよう求めた後のことだ。「わたしは物づくりをする技術者です。あなたもいつかやってみてはいかがですか」とルカンは付け加えている。(この記事のためにマーカスへのコメントを求めたが、ルカンは回答を差し控えた)世界にはAIの国際機関が必要?当時、といってもほんの数カ月前のことだが、マーカスの主張はAIの技術に焦点を当てていた。LLMが世界的な社会現象となったいま、マーカスの主張の焦点は変化してきている。マーカスの新しい主張の根幹は、OpenAIやグーグルをはじめとするAI企業のチャットボットは誤情報やセキュリティのバグ、名誉毀損的な表現を含む「幻覚」による誹謗中傷を自動化する危険な存在であるというものだ。Levyマーカスは長きにわたって、AI技術は過大評価されていると主張してきた。それがなぜいまになって、AIはとてつもなく強力な存在で、社会はそれを規制しなければならないと考えるようになったのだろうか。尋ねるとマーカスは一挙に喋り出した。彼はいつだって意見を持っているのだ。「確かに何年もの間、LLMなど愚かだと主張してきましたし、いまでもそう考えています。影響力と知力は別物です。私たちはAIに力を与えすぎているのではないでしょうか」とマーカスは語る。彼は今年の2月にAIとその業界の動きに不信感を抱くようになり、この問題を解決するために奔走し始めたのだという。AIの影響を適切に検討できるようにするため、彼は現在、非営利団体の設立に向けて動いているのだという。AIの発展に潜むあらゆる被害に対抗するためには、政府や規制当局がAIの開発を制限する必要があると、マーカスは主張する。3月下旬には新たなLLMの訓練を6カ月間停止することを求める署名活動が実施されたが、イーロン・マスクや数十名の科学者、政策マニア、そしてただ恐れを抱いている傍観者たちと並んで、マーカスも自身の名を書き連ねている。Popularもはや日本の自動車メーカーは後塵を拝している。Rogersとはいえマーカスは、このような一時的な開発の停止では根本的な解決にはならないと考えている。前述の署名活動に賛同した理由は、あくまでも他のAI批評家たちと足並みを揃えるためだったとのことだ。訓練の一時的な停止ではなく、新しいモデルの発表や現行モデルの改良を停止させる必要があると、マーカスは話す。これを実現するには企業に規制を強制するほかないだろう。マイクロソフトやグーグルからしてみれば、生存をかけた厳しい競争の最中にいるわけであり、誰かのお願いを聞いている場合ではないのだ。アップルやメタ・プラットフォームズ、アマゾンなど、数え切れないほどのスタートアップ企業もこの分野に参入しようとしている。こが強制力を発揮するかについてマーカスには考えがある。AI)」が必要だとマーカスは主張している(この団体が設立されれば叫び声のような略語(Iaai!)で表記されることになるだろう)。Economist』に向けて共同執筆した論評で説明しているところによると、この組織は国際原子力機関(IAEA)のように機能するという。IAEAは新興の核プログラムを特定するために監査や検査を実施する組織だ。彼のいうAIの国際機関は、各社のLLMが持つアルゴリズムを絶えず監視するものであり、AIが誤情報を拡散したり電力網をジャックしたりするのを防いでくれるのだろう。現時点では米国、欧州、中国が協力して国際機関設立に向けて動くことは考えにくいが、もし本当にAIが人類の存続を脅かすような事態になれば、その時は手を取りあって「チーム人間」が結成されるのかもしれない。いや、気候変動はそうなってもおかしくない程の大きな脅威なはずだが、そんな動きはどこにもなかったような......。AIをどう扱うかについての議論は必要いずれにしろ、今後AIはますます私たちの生活に浸透してくるのであり、それと同時にAIに関する議論もさらに盛り上がるだろう。これからもマーカスをはじめとするAI専門家たちを目にする機会は増えいく。それは悪いことではない。AIをどう扱うかについての議論は健全であり、必要なことだ。AI技術が私たちの緩慢とした議論など待たずにどんどんと発展していってしまうとしても。ChatGPTは今や万能なビジネスツールであり、エンターテイメントであり、そして相談相手でもある。した発展を見せているのは、人々がChatGPTに有用性を感じているからに他ならない。私たちはこれからどんどんとAIに依存するようになり、AIは私たちの職場の文化や消費活動、そして私たち自身をも変えてしまうのだろう。これまでの技術革新が同じような変化をもたらしたように。一方で、この分野に精通した専門家の忠告はしかと受け入れなければならない。先日、ディープラーニングの生みの親としても知られるジェフリー・ヒントンがグーグルを退社した。自身が開発に携わったAIの危険性についてもっと自由に発言できるようにするためだという。マーカスはヒントンのこの行動を称賛している。残念なことに、ヒントンはマーカスのファンではないようだ。彼はトロント大学のホームページで3度もマーカスを揶揄している。マーカスは、ヒントンの批判に明らかに傷ついているものの、これを前向きに捉えている。「この混乱の時代において冷静さを欠いてはならないということを言っているのです。彼も心配なんですよ」と語る。頭の回転の速さについては、ゲイリー・マーカスを疑う者は誰もいないだろう。Popularもはや日本の自動車メーカーは後塵を拝している。Susaki)※『WIRED』による人工知能(AI)の関連記事はこちら。ディープラーニング:深層学習の関連記事はこちら。徹底比較(前編):ChatGPT、Bing、Bardをテストしてわかった基本的な違いOpenAIの「ChatGPT」に代表される会話型AIが相次いで登場しているが、その実力に違いはあるのか。Chat」とグーグルの「Bard」の能力を比較すべく、前編では基本的な問いかけからスタートしてみた。アマゾンも参入、激化するジェネレーティブAI競争の行方アマゾンがジェネレーティブAIの市場に参入すると発表した。サービス(AWS)を通じて提供することにある。無料で参加できるイベントも用意される刺激に満ちたサービスは、無料トライアルを実施中!詳細はこちら。Learning『WIRED』は"未来"を実装するメディアです。この絶え間なく変化し続ける世界を理解するために必要な情報とアイデアの源泉であり、カルチャーからビジネス、科学、デザインに至るまで、生活のあらゆる側面をテクノロジーがいかに変えていくのかに光を当てます。わたしたちが"発見"するブレイクスルーやイノヴェイションが、新たな思考や人と人とのつながり、そして新しい産業を生み出すのです。