何が問題なのか?検索エンジンの仕事ぶりは差別のない公平なものからは程遠い。指摘するカリフォルニア大学ロサンゼルス校(UCLA)のサフィア・ウモジャ・ノーブル教授に問題点を聞いた。Snow2018.03.151032150インターネットは差別や不公平のない土俵のように思われるが、そうではない。サフィア・ウモジャ・ノーブルがその事実に直面したのは、ある日検索エンジンで姪っ子たちが興味を持ちそうな話題を探していた時だった。girls」(黒人の女の子たち)という言葉を入力したところ、ポルノ写真で埋め尽くされたページが現れたのだ。ノーブルはぞっとしたが、驚いたわけではなかった。カリフォルニア大学ロサンゼルス校(UCLA)の教授(コミュニケーション学)を務めるノーブルは、長年にわたって、Webの価値観はその構築者の価値観、つまり概して白人の西洋人男性のそれを反映し、少数派や女性たちの価値観を反映していないと主張している。Oppression(抑圧のアルゴリズム)』には、ノーブル教授が運命的なグーグル検索をした後に開始した調査の詳細が書かれており、我々がインターネットを通してどのように情報を入手かを決定する隠れた構造が探究されている。2月に発売されたこの本によると、検索エンジンアルゴリズムは、グーグルが言うほど中立的なものではない。アルゴリズムは、ある検索結果を他よりも優先させたり、一見中立的なコードでさえ、社会のバイアスを反映していることがある。アルゴリズムがどのように機能するのか、より広範なコンテキストは何なのか、といったことをまったく知らなくても、検索は「黒人の女の子たち」といったあるトピックに関する議論の行方を不当に決定してしまうことがあるのだ。ノーブル教授はMITテクノロジーレビューのインタビューに応じ、現行のシステムに根ざす問題点、グーグルによる改善策、そして人工知能(AI)がいかに状況を悪化させることになるか、について語った。——検索エンジンの仕組みについて人々が誤解していることは何でしょう?一番近いスターバックス、のような具体的な言葉、つまり意味の限られた簡単に理解できるようなものを検索する場合はうまくいくのです。ところが、アイデンティティとか知識を取り巻くもっと複雑な概念になってくると、検索エンジンには問題が出てきます。世の中の人々が、検索エンジンを使えば、真実だと考えられる情報、詳しく調べあげられた情報、信用できる情報といったものを手に入れられると頭から依存さえしなければ、大きな問題にはならないのです。検索エンジンとは何なのかについて人々が抱いている最大の誤解はここにあると考えています。——バイアスの問題に対処するため、グーグルは通常ある種の検索結果を抑制していますが、もっと良い方法はあるでしょうか?世界中の知識を整理するなどといったとてつもないプロジェクトから撤退するか、あるいは見直しを図って、こう宣言するのです。「これは不完全なテクノロジーです。意図的に操作することも可能です。どのように操作されているかご覧にいれましょう。我々は自社製品のそのような部分をより明らかに示し、みなさんに検索結果は極めて主観的な性質のものであることを承知していただきたいのです」。それによって、グーグルあるいは多くの企業は、信頼の置けるもの、頼りになるものを提供しているといえるようになります。ここからが極めて難しくなるわけですが。——機械学習は、あなたが著書に書かれたような人種差別や性差別を、どのように恒久化させてしまうことになるでしょうか?私はAI、いわゆる自動意思決定システムが今世紀における人権問題になると主張してきました。心底そう確信しています。機械学習のアルゴリズムやプロジェクトは、もともとバイアスのある不完全で誤ったデータを使っており、人間は機械にそうした情報に基づいた意思決定の方法を教えているのですから。そのことでさまざまな極端かつ危険な検索結果をもたらすことになるはずです。介入するのが難しくなっていくでしょう。いうのは、そのAIやシステムの構築のためにどんなデータが使われたかが、より不明確になっていくからです。標準化されていないものとか、意思決定をするために一体になっているものなど、多数のさまざまな種類のデータセットが存在しています。——2010年に「黒人の女の子たち」を初めて検索したときから、状況は良くなりましたか、悪くなりましたか?黒人の女の子たちについて、特にポルノとの関係で言えば、私が文章にしたり公の場で話したりするようになってから、状況は変わりました。現在ではポルノや過激な性描写の内容は最初のページには現れません。そのことは、大きく取り沙汰はされませんが、静かなる進歩だと思っています。他の地域、南米やアジアの女の子たちなどは、今でも極めて性的な対象として検索結果に現れます。宇宙ビジネスの時代かつて国家主導だった宇宙開発がいま、大きく変化している。テクノロジーの進化とリスクマネーの流入によって民間企業による宇宙開発が加速し、自社の事業拡大に宇宙を活用しようとする「非宇宙」企業やベンチャー企業の動きも活発だ。そのヒントとなる記事を集めた。北朝鮮系のハッカー集団が暗号通貨取引所から多額の資金を盗み続けている。侵入手口の巧妙化に加え、暗号通貨を匿名で現金化できる資金洗浄インフラの増加も背景だ。Orcutt加州の2045年炭素中立化は実現可能、「バイオマス」にカギ2045年までに「カーボンニュートラル」を目指すカリフォルニア州の大胆な目標は、その実現性が疑問視されている。ローレンス・リバモア国立研究所の研究グループは、技術的には実現可能との見解を示した。アプリ、どこが問題か?新型コロナウイルス感染症の感染者との濃厚接触の可能性を調べるために中国政府が提供しているアプリは、人々に誤った安心感を与えるうえに、市民の分断を招く可能性がある。自律型の乗り物やドローン、量子コンピューティングについて。「深層学習の父」も注目のAIピッキングロボ、倉庫作業員を置き換え米国のスタートアップ企業が、強化学習の手法を用いて、かつてない正確さで商品を判別して移動させるロボットアームを開発し、すでにドイツの電子機器メーカーの倉庫などで実運用されていることが明らかになった。人工知能研究の著名人などから2700万ドルの資金を調達している注目企業だ。深層学習に基づく自然言語処理技術は最近、長足の進歩を遂げているが、人工知能(AI)は読んだ文をどれだけ本当に理解しているのだろうか?アレン人工知能研究所(AI2)の研究チームは、機械が文の意味をどれだけ理解しているのかを評価するための新たな大規模データセットを作成し、最先端の言語モデルでテストして人間の結果と比較した。Hao「説明可能なAI」はなぜ透明性を高めるだけではダメなのか?深層学習の人工知能(AI)システムがさまざまな分野で使われるようになるにつれ、ブラックボックス批判が高まっている。AIをただ「説明可能」にするだけでは不十分だ。世界を理解するための知識を獲得していただくためにあります。よって、あるいは口述記録の形態によっても、製品にしたり、公衆向けか個人用かに関わらず送信したり複製したりすることはできません。