日本のデータ政策を支える「憲法文化」があるのかというと、それがよくわからない。長く内戦に苦しめられたバルカン半島、ボスニア・ヘルツェゴビナの若者たちの写真からつくられたイメージ映像。Facebookのネットワークは世界中に広がり、その情報は信用スコアリングの参考にもなりうる。Ruvic/Illustration浜田:今後、スコアリングはどういう世界をつくり出すのでしょうか?山本:私はリスク面を強調する反対派のように思われていますが(笑)、注意しながらやっていきましょうという立場です。どこに価値を置くのか、境界をどう切るのかがとても重要だと思います。AIの予測精度を重視すれば、効率性や経済合理性はアップし、社会の安全も向上する。AIに賢い判断を求めようとすれば、たくさんのデータが必要になる。信用力と相関するデータはすべてAIに食べさせるべきとなり、パブリックな領域とプライベートな領域の境目がどんどん融解していきます。家の中での一挙手一投足もデータとして収集され、評価の対象となる。AIスピーカーやAI家電はある意味家庭内に自ら引き込んだ監視装置となり、家庭内の行動も捕捉されることになれば、社会だけでなく家庭も安全になる。家でもお行儀よくしなきゃ、と。他方でプライバシーを守り、データの収集を制限すれば、AIの予測精度は落ち、スコアに対する信頼性も落ちます。「見られない」空間ができるので、社会や家庭の安全レベルも落ちるかもしれない。結局、予測精度=効率性=安全を重視するのか、自由だけどちょっとヤンチャな社会を重視するのかという選択の問題になる。前者はAR(拡張現実)メガネに、道路ですれ違う赤の他人の信用スコアが表示され、ロースコアだと危なそうだから少し距離をとって歩こう、という社会になるかもしれません。それは安全だけど重要な何かを失ったような社会のように感じます。「スコアリングがもたらす世界」は、このような価値観や社会モデルの選択や、それによるデータ収集領域の境界画定によって大きく変わってくると思います。尾原:僕は今、シンガポールやバリ島を生活拠点にして世界中で働いています。それができるのかというと、一言でいうと「Facebook国」の住人だから。日々何をやっているかということをFacebookでずっと発信しているから「尾原は最近こういうことに興味を持ってるんだ」ということがみんなに伝わる。それで、仕事の依頼もいただける。個人的にはSNSが評価の対象になることに多少抵抗感を覚えます。Facebookやインスタグラムの「いいね」を寝る直前まで、起きしなにもベッドで確認するような生活......。社会的評価の対象が公私をまたぐことで、「私」に「公」が流れ込み、四六時中、スマホをチェックしなければ、というある種の強迫観念が生まれるように感じます。浜田:尾原さん、疲れませんか?山本:尾原さんは疲れないんじゃないですか?尾原:そうですね(笑)。:スコアリングに関して、若い世代が気になる一つのトピックスは就活だと思いますが、企業は採用活動でどう活かしていこうとしているのでしょうか?山本:学生の化けの皮を剥がすという方向で利用する企業も現れると思います。ポジティブな言い方をすれば、学生の「真の姿」を正しく評価するために利用する、と。ある企業は、スマホでいくつかの質問に答えさせるときの指の動きも収集する。この質問にはどれぐらい時間がかかっているかなど、無意識的な動きまで見ているわけです。友人の評価をスコアリングに組み込む採用アプリもあります。今、技術的に開発されつつあるのは、履歴書からプロファイリングした志願者の特徴量を、匿名のTwitterアカウントにぶつけ、履歴書の志願者が普段本音でつぶやいている様子を評価スコアリングに組み入れようとする試みです。これまではサイバー空間とフィジカルな空間で、またサイバー空間の中でもネットワークごとに「人格」を使い分けていたのに、これが失効する。浜田:100%善き人でいないといけなくなったということですね。尾原:実はインターネットの広告の領域ではこの議論って“終わった”議論なんですね。男性か女性か、何歳くらいか、どんなブログをよく見ているのかといったことから、趣味は車、最近、こういう病気になったなど、どんどん絞り込んでいくと個人まで特定できちゃうんです。なれば、その人が今読んでいる記事から「この人、浮気しようとしてるな」などとセンシティブなことまでわかってしまう。10年ほど前、アメリカのネットの広告協議会で個人が特定できてしまうところまで追求するのはやめようということになりました(※)。企業も効果的な広告を出したいですが、持続的な関係を作るためにはユーザーをおびやかしたり怖がらせてはいけないと。※日本でもアメリカの取り組みを参考に、広告ビジネスのために取得される個人情報などの取り扱いに関しては、プライバシーポリシー作成のためのガイドラインや行動ターゲティング広告ガイドラインなどが策定されている。マーケティングだとその通りかもしれません。就活の場合、例えば企業があらかじめSNSなどの公開情報を用いてプロファイリングやスコアリングを行いますと伝えており、そのうえで受験すれば、学生の「同意」があったとみなされてしまう。すると、SNS上の公開情報を使ってプロファイリングされても文句は言えないことになる。浜田:企業と消費者だと消費者の方が立場が強いけれど、学生と企業の場合だと、学生の方が弱い立場ですものね。山本:今後は広告やマーケティングの領域と、与信や採用とを区別して議論していく必要があるでしょうね。尾原:実際、アメリカのHRテックだと、採用試験の時、この質問にこう答えた人がのちのち営業成績がよくなるとか、こっちの回答をした人の方が幹部になりやすいというデータがたまりつつあります。なってくると、たった一つの答えで幹部コースを絶たれるかもしれません。東京で開催されたAirbnbのイベントにて。Kato浜田:キャリアすら絶たれるかもしれないんですね。採用試験で落とされるのか、自分ではまったく思い当たらない。話を変えたいと思います。ウーバーやAirbnbはもともと人の善意を前提にしたサービスですよね。サービスが広がっていくと、悪用する人は必ず現れてくる。それは企業だったり国家だったりする。私たちはこの悪とどう向き合っていったらいいでしょうか。山本:プラットフォームは、「公」でも「私」でもない「共」的な空間として、新たな価値を創造している。プラットフォームの規律に関する現在の議論は、政府による法規制でも、企業の自主規制でもない、その中間にある「共同規制」という考えがキーワードになってます。完全な自主規制はともすると企業側の恣意に陥るので、自主規制のプロセスを政府がうまく枠付けし、さまざまなステークホルダーを平等に参加させる形を促し、支援していこうというものです。した共同規制だと、プラットフォームをコントロールポイントにして、プラットフォーム自身にうまくガバナンスしてもらう。政府はこうした自主的なガバナンス体制の構築にインセンティブを与えたり、モニタリングしながら支援したりする。浜田:ただ、その加減が難しいですよね。Airbnbに不動産投機目的の人がどんどん参入してきた時、スコアリングが有効に使われず、本当に締め出したい人を締め出せなかった。尾原:それでもスコアリングをアップデートし続けていくしかありません。いえ、プラットフォームも営利企業だから儲けるために悪用することもあるんじゃないかという議論もある。その時に今の山本さんの共同規制っていい言葉だなと思いますね。僕は共同規制ってほかにもあると思っていて、一つは従業員と経営陣との共同規制。Googleは自分たちの資産はエンジニアだと自覚しているので大切にしています。創業者たちが毎週金曜日、みんなから質問を受ける場を設けています。中国から撤退するという時、エンジニアたちが何時間も、入れ替わり立ち替わり「撤退はGoogleがやろうとしている世界中の知識を有機的に使いやすくするという社是にもとるんじゃないか」と詰め寄った。経営陣はそこから逃げずに、説得したり、自分たちの葛藤をさらして議論した。そんなふうに従業員と経営陣が共同規制を作り上げるというのも一つの形。セクハラ問題で退社した幹部に多大な退職金が支払われたことに抗議し、ストライキを実施したGoogleの従業員たち。写真は2018年11月1日、カリフォルニア州マウンテンビューにある本社でのストライキの様子。Lamもう一つは株主と企業との共同規制。株主から、「Googleの検索結果が個人にパーソナライズしすぎると、自分の好きなものしか見なくなる。それは『フィルターバブル』なのではないか」という質問がたくさん出た。Googleは正式な回答はしていないものの、外から見ていてやっぱりちょっとモデレートになったなと思います。浜田:やっぱり世論や社会を意識しているんですね。日本でもこうして従業員としての監視を強める、あるいは株主としての監視を強めるという共同規制の方法をつくりあげていくべきでしょう。アルゴリズム設計に求められる思想アルゴリズムを法律と同じように機能させようとするなら、その設計プロセスは民主的で、マイノリティを尊重したものでなくてはならないはずだ。Shutterstock.com山本:アメリカでは、「コ・デザイン(共同デザイン)」という議論が出始めています。HRテックなどの設計・開発段階に、女性や障がい者などのマイノリティを参加させ、こうした技術を多様な利害関係者と「共同」で設計していこうという議論です。これまでアルゴリズムなどを設計するエンジニアは、健常者である白人男性が多かった。多くは社会的にマジョリティと呼ばれる人たちよって設計されていたことで、アルゴリズムにバイアスが入り込む危険性があった。先日、AIを使ったAmazonの採用プログラムが女性を不当に排除していたという報道がなされましたが、この問題も、設計者の構成自体の偏りと無関係ではないと思います。アルゴリズムが法律と同じように私たちの生活に大きな影響を与えるようになると、その設計もある程度民主的(democratic)でなければならないと思うんですよね。ブラックボックス問題によって、AIの予測結果、いわば「出口」が説明不能になるとすれば、「入口」、つまりアルゴリズムの設計・開発段階がいかに社会に開かれているかがより重要になると思う。浜田:設計の段階からダイバーシティーの思想を入れていくというのは新鮮です。そこからの思想が問われるって、日本ではあまりないことですよね?尾原:ないですね。そもそも日本は多様性を前提とした議論をあんまりやってこなかったので、ことのほか自覚的にダイバーシティーを入れて設計していかないといけないですよね。ダイバーシティーを設計に組み込むチャンスだと思うんです。それによって、世界に先駆けてAIによるインクルーシブな社会を本当に実現できてしまうかもしれない。一発逆転のチャンスともいえる。AIを使ってバイアスを外すこともできるということですね。(CFO)が2018年12月1日に逮捕された際、カナダの上級裁判所前で同社への支持を訴える中国からの渡航者。Ryder浜田:少し違うテーマをお聞きします。ファーウェイCFO逮捕の一件で、企業間の競争に国家がプレイヤーとして出てきた瞬間、企業はなすすべがない、という印象を持ちました。尾原:今は国とプラットフォームで見るとプラットフォームの方が力を持っちゃった時代です。国は、プラットフォームをコントロールできないんじゃないかと怯えながら対応していると思うんです。アメリカがナンバーワンでなくなってしまう危機感が“掛け算”になっている。アメリカでプラットフォーム側は富んでいるが、そうでない方はあまり富んでいない。中国はプラットフォームと国が蜜月関係で、その中で自分たちの実力を増そうとしている。そんな時代に個人ができることは、国に対してニュートラリティ(中立性)を持った目で見ていくことだと思うんです。浜田:どういうことでしょう。尾原:例えば、ファーウェイの話もドイツはいち早く「独自に調べて今のところ(問題は)何も見つかってないよ」と声高に言う。思考停止の中で他の国民を殺してしまったという自省もあると思う。日本もニュートラルであってほしいけど、きっとそうなるには時間がかかる。「Google国民」でも動画アプリの「Tiktok国民」でもいい、何かのプラットフォームの“国民”になって収益が得られれば、どこの国でも生きられるようになって、「日本国民も選択肢の一つだよな」と、国をニュートラルに見られると思うんですよね。ネットワークのエリートの発言と言われるかもしれないけど、国と企業が抗う時代になったからこそ、国を選択する自由を持つことで、国に対しての監視圧力を強められるのではないかと思うんです。失われる批判的に捉える視点2018年12月8日、パリで警察と衝突する民衆の暴動。発端はマクロン政権による燃料増税への反対だったが......。Mahe浜田:ただ、最初の話に戻ると、その“居住国”を選べない人たちも出てくる。スコアリング社会に乗れなかった人たちはさまざまな国で反旗を翻したり、一部は極右政党を支持したりもする。尾原:インターネットって本来的に自分の趣味や小さな好きを発信できて、そこに世界中のファンが集まってくれて、そこで生きられるっていうロングテール性が本当の強みだと思うんです。いうものをテクノロジーの力がエンパワーメントしてくれる。アメリカで最近言われているのが「戦う楽観主義」。権力が“悪”になってきたら、その人たちと戦いながら、でもテクノロジーはいいものだという可能性を信じようと。すみません、僕はこの辺ロマンティシズムでしか語れない(笑)。ファーウェイを国家が叩いたのは、テクノロジーが国家にとって大きな脅威と感じたからだと思います。いまは、プラットフォームやネットワークの上に国家がある。いつの間にか国民国家はネットワークや情報技術に包摂されているわけですね。ブレグジットの一件やフェイスブック=ケンブリッジ・アナリティカ事件でもわかるように、プラットフォームやテクノロジーのさじ加減一つで国家の命運が左右されてしまう。別の言い方をすると、「外部」がなくなってきている。今までだったらサイバーの世界の外にフィジカルな世界があって、そこからサイバーの世界を客観的・批判的に見ることができた。ところが、ネットワーク化やプラットフォームの台頭によって2つの世界が横串で刺されることになり、「外部」そのものがなくなってしまう。プラットフォームを批判的に捉えようとしても、その批判自体が、プラットフォームの内部で形成される。都市伝説かもしれませんが、あるプラットフォームでは、そのプラットフォームを批判するニュースが配信されない。国家を批判するのも、プラットフォームの内部でなんです。やろうと思えば、思想を誘導して批判の方向性を変えることができてしまう。この状況を前提にするとき、重要なのは、いかに「外部」を維持するかだと思います。プラットフォーム間の競争を維持し、それらの間でのチェックス&バランシズ(抑制と均衡)を担保する。これには、やはり国家の介入が必要かもしれません。考えると、ファーウェイの事件は興味深いです。中国のフードデリバリー大手「Ele.me」の報道向けデモ。中国の「ドローン熱」は圧倒的で、各分野での導入と技術革新が急速に進んでいる。AI技術やデータと組み合わせることで、近い将来大きな力になるだろう。Song山本:中国政府が「メイド・イン・チャイナ2025」でやろうとしているのは、プラットフォームやテクノロジーを抑えて、世界全体を中国色の風呂敷で包んでしまおうということなのかもしれない。中国が脅威なのは、プラットフォーム権力と国家権力とが融合していて、世界から「外部」を奪おうと本気で考えているからではないでしょうか。その意味で、ファーウェイの副会長がアメリカの要請で逮捕されたことは、アメリカという国家が、プラットフォーム権力の肥大化を抑えて「外部」を維持しようとした動きとも読める。EUのGDPRも、ヨーロッパ諸国がGAFAのようなプラットフォーム権力をコントロールして、「外部」を維持しようという動きとも読める。国家権力とプラットフォーム権力との抑制と均衡をどのように保っていけるかが今後の課題になるといえそうです。尾原:まさに、そうですね。山本:複数の国家と複数のプラットフォームとアルゴリズムと個人という諸力の関係性を整えていく必要がある。抑制と均衡を保つために一つの力だけが飛び抜けるとまずい。このグローバルな権力バランスの中でおそらく数年はやっていくでしょう。尾原:でも適度なカオスの均衡があれば、必ずいろんな選択肢が生まれるはずです。常に「プランB」を作り続けるのが大事。個人ができることは、自分がどういう構造の中にいて、どういうバイアスがかかっているのかを冷静に分析すること。前回のアメリカの大統領選で、僕みたいななまけもの人間には「どうせクリントンが勝つから選挙に行かなくてもいい」っていうバイアスの情報が来る。Facebookの中だけやたらそういう情報が届くから、「もしかして」と思って、他のニュースソースを見に行ってみる。いうバランス感覚が大切なんです。すると、あるプラットフォームが自分にどういうバイアスをかけようとしているのか、ないしは誰かの悪意によってかけられようとしているのか、わかってくる。浜田:今日、伺った話はあまりニュースになっていないので知らない人も多いと思います。今、私たちは、こういう世界で生きているということに自覚的にならないといけないですね。マッキンゼー・アンド・カンパニーを振り出しに、NTTドコモにてiモード事業の立ち上げ支援、リクルート、Google、楽天などで従事。『ITビジネスの原理』はロングセラーに。インドネシア・バリ島とシンガポールを拠点にIT評論家などとして活動。グローバルリサーチインスティテュート副所長。総務省「AIネットワーク社会推進会議(AIガバナンス検討会)」構成員などを務める。超類型化AI社会のリスク』、編著書に『AIと憲法』など。@BIJapanPopular【激白】「武漢より感染リスク感じる」ダイヤモンド・プリンセス号船内から香港人男性怒りの訴え「午前3時まで働いていた」元アクセンチュア・ゴールドマン夫妻が農家転身で知ったこと新型コロナウイルスの基礎知識。閉店を目前に控えたマンハッタンのバーニーズ・ニューヨークへ行ってみた「なんて無駄なことを」ビクトリアズ・シークレット、閉店した店舗が大量のブラを捨てるサウジアラビアのマックに行ってみた...マックアラビアチキンはとてもおいしい!アップルのプログラミング言語「Swift」を生んだ天才エンジニアがまた移籍。テスラ、グーグルの次は?新型コロナウイルス感染したら?病院行くのはいつ?自宅での感染拡大を防ぐには?2秒で感染、24日潜伏、節目は2月20日...中国の専門家が指摘する新型コロナウイルスの本当に重要な数字とは「東京オリンピック中止も想定される段階」新型ウイルスで日本経済マイナス成長の危機あわせて読みたいPopular【激白】「武漢より感染リスク感じる」ダイヤモンド・プリンセス号船内から香港人男性怒りの訴え「午前3時まで働いていた」元アクセンチュア・ゴールドマン夫妻が農家転身で知ったこと新型コロナウイルスの基礎知識。閉店を目前に控えたマンハッタンのバーニーズ・ニューヨークへ行ってみた「なんて無駄なことを」ビクトリアズ・シークレット、閉店した店舗が大量のブラを捨てるサウジアラビアのマックに行ってみた...マックアラビアチキンはとてもおいしい!アップルのプログラミング言語「Swift」を生んだ天才エンジニアがまた移籍。看護師が明かす、あなたの知らない病院の真実7つ新型コロナで就活に異変。新型コロナウイルスを「封じ込められない」理由。女性のカードローン利用7割が「生活費」目的。大学はゴールではない。中村桂子が語る、テクノロジーと人間Sponsored街中からオフィス、食卓にまで広がったシェア文化。EditionsUSINTLDEAUSESFRINITJPMYNLPLSESGZA。