仕組まれたアルゴリズムの罠:朝日新聞デジタルメインメニューをとばして、このページの本文エリアへお使いのブラウザはJavaScriptに対応していないか、または無効になっています。詳しくはサイトポリシーのページをご覧ください。[PR]この顧客は金を落とすのか。この学生は内定を辞退するのか。個人の膨大なデータから人工知能(AI)が将来の行動を予測するシステムを、企業があらゆる場面で使い始めている。数学者のキャシー・オニールさんは、AIによる偏見や格差の拡大に警鐘を鳴らしてきた。すれば私たちは、「AIのわな」から抜け出せるのか。O'Neil1972年生まれ。著書に「あなたを支配し、社会を破壊する、AI・ビッグデータの罠(わな)」。――日本では就職情報サイトのリクナビが、就活生の同意を得ずに内定辞退率を予測し、企業に売ったことが問題となりました。「内定辞退者が続出して誰も入社しなかったら困ると企業が考えるのは合理的です。――「企業は選考にデータを利用しない」ということになっていましたが、本当にそうだったのか、誰もわからないからです。「サイトの閲覧履歴は守られるべき個人情報であり、確かにサイトを閲覧しただけで、内定を得ても辞退すると決めつけられるのはフェアではありません。米国では閲覧履歴データの利用は当たり前のように行われています。――どういうことですか。「米国ではもっとひどいことが起きています。ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです。学長が気にするのは、カネと大学ランキング。合格者数に対し実際にどのくらいの受験生が入学したのかという割合も、大学ランキングに影響するのです。――IT企業が、サービス利用歴を元に個人に点数をつける「信用スコア」も、じわじわと広がっています。ヤフーは当初、拒否しなければ自動的に同意したとみなす「オプトアウト」の仕組みで、同社のサービス利用者のデータを点数化していました。「説明不足」の批判を受け、自ら同意した利用者のみ点数付けするよう変更しました。「米国の企業だったら、変えなかったと思いますね。メディアの批判など、みんなで無視すればこわくない。「企業にとって個人データはとても価値があり、活用すべしというプレッシャーが存在します。「クレジットカードの『信用スコア』は、たとえばデートの相手を選ぶ時にまで広く使われるなど、それ自体が大きな意味を持っています。――数学やコンピューターの素人には、AIがどう動いているかとても理解できないのですが。「考え方はシンプルです。成功に導くパターンをデータ分析によって探すのがAIです。「私にとっての成功は、息子が...こちらは有料会員限定記事です。有料会員になると続きをお読みいただけます。こちらは有料会員限定記事です。有料会員になると続きをお読みいただけます。こちらは有料会員限定記事です。有料会員になると続きをお読みいただけます。こちらは有料会員限定記事です。有料会員になると続きをお読みいただけます。半年前から同居を始めた大学生の孫娘の生活ぶりに困った質問主。美輪明宏さんが答えます#ニュース4U「本当の父親になるには」焦る継父たち継父が再婚相手の子を手にかけたとされる事件が相次ぐ。高騰する金の買い方指南2020年も高値で取引されている金の買い方について、経済アナリスト豊島逸夫さんが答えます。日本の敗戦を巡ってかつて「勝ち負け抗争」と呼ばれる事件が起きた。前へ次へページトップへ戻る朝日新聞デジタルの関連サイト有料会員(フルプラン)は追加料金なしでご利用可能。著作権お問い合わせ・ヘルプ朝日新聞デジタルに掲載の記事・写真の無断転載を禁じます。すべての内容は日本の著作権法並びに国際条約により保護されています。permission.。