それはもうディストピア(ユートピアの反対)に近づいている証拠なのです。このジーナップ氏はトルコ出身の作家でノースカロライナ大学の准教授です。こんなスピーチをしていますた。人々がAIの不安を口にする時、大抵が映画ターミネーターのように人型ロボットの暴走をイメージするかもしれません。デジタルテクノロジーを使った監視。ジョージウォーエルの小説1984年のような徹底した監視社会を不安に思うかもしれません。最近また1984年がベストセラー入りしています。これらは21世紀のディストピアを正確には言い当ててはいません。直近で差し迫っている脅威。予想もつかない巧妙なやり方なのです。皆さんはスーパーのレジの高さにキャンディやお菓子がちょうど子供の目のつくところに置かれてるのに気づくでしょう。子供がねだるように、目の見える高さに商品を置いてあります。それは説得アーキテクチャーというものです。実は、デジタル世界ではこの説得アーキテクチャーはものすごいパターンを構築できます。ある企業が、ラスベガス行きの航空券を売り出したくて広告を打つ場合。その購入ターゲット層は25~35歳で、クレジットカードの限度額が多い人。リタイヤした夫婦などに対して広告を打つかもしれません。現在の説得アーキテクチャーはそうではないのです。各種SNSを使って膨大なデータを収集します。どこからログインしたかの履歴。アップロードした全ての写真。メッセンジャーの全ての会話、ブラウザの膨大な閲覧履歴。何かを入力して気が変わって途中で入力し直してもその履歴。オンラインのみならずオフラインデータまでも。財務記録などデータブローカーら大量のデータを購入しています。それらは日常的に収集されているのです。AIの学習アルゴリズムを使ってあらゆるデータを組み合わせてラスベガス行きの航空券を買う人を分類するのです。問題はどうやって分類しているのかです。ラスベガス行きの航空券販売は非常にうまくいきました。かなりの確率で分類できるようになりました。現在はプログラマーがそのデータを見てもなぜそういう分類になっているのか分からないのです。何百万の行列があるデータの巨大なマトリックスがあってそれがどう機能してるか分からない。育てているかのようです。それは脳の断面を切っても、その人が何を考えてるのか分からないのと同じです。いくつの企業がこの種のテクノロジーを使っています。学習アルゴリズムは、あなたが見たものを興味を持ってるものを見せようとします。アルゴリズムが誘惑しているのです。ある日、苦しそうにコンピューターサイエンスの科学者が言いました。論文を発表できなかったんです。躁状態になりかけてる人かどうかSNSの投稿だけで判断できました。実際それはうまく機能しました。やってそれを分類してるのか分からなかったのです。あなたは、Youtubeで気付くと1時間経ってて27本の動画を見てたという経験はないですか?それはその人の好みを判断して何に興味がるのかそれを見せようとしているためです。動画を見続けて広告を見させるためなのです。サイトが日々、閲覧者をプロファイルイングして訪問者がのめりこみやすいようにしてるのです。アメリカ人を対象に実験を行いました。シンプルなメッセージを示しました。「投票しました」をクリックした友達のサムネイル画像も表示したのでした。