AI時代のバーチャル・スラムとは。AFRICASPAINSearchAI時代のバーチャル・スラムとは。Insider6,074FacebookTwitterLinkedInHatenaLINEテクノロジーが加速度的に発展するなか、社会にはどんな変化が訪れるのか。中国をはじめ世界で進む、個人のスコアリング化で私たちは自分たちの情報や権利をどう守ればいいのだろうか。テクノロジーは私たちを幸せにするのだろうか。憲法学が専門の山本龍彦さんが、テクノロジーと個人の幸せや権利について語り合った。スコアが低いと住宅ローンも借りられない対談は尾原和啓さん(右)が年末に帰国した機に、山本龍彦さんが教鞭をとる慶應義塾大学で行った。デジタル化が加速度的にスピードを増し、国家間の「デジタル冷戦」が起きているとも言われるなか、個人が置き去りにされている感があります。いう状況が進むと、デジタル空間での格差が進む、という指摘を山本さんは「バーチャル・スラム」という言葉で表していらっしゃいますね。(ジーマ信用)」が人工知能(AI)を使って、さまざまな個人情報から、個人の社会的信用力を350点から950点で評価付けしています。この信用スコアが官民のさまざまな機関で「第二の身分証」のように使われている。スコアが高い人は住宅ローンを低金利で組めたり、家を借りる時に敷金がいらなかったり、外国ビザを取得する手続を一部免除されたりするなど、非常に快適な生活が送れます。一方で、スコアが低い人は、社会の至るところで差別的な扱いを受ける。芝麻信用のスコアを考慮する多くの企業によって採用を拒否されたり、芝麻信用と連携する婚活サイトで不当な扱いを受けたり。ロースコアの人は飛行機などのチケットが買えず、移動すら不自由になるとも聞いています。中国では、AIが行う「格付け」によって社会を徹底的に統制する社会信用のエコシステムが完成しつつあり、それによって大きな社会的格差が生じる可能性があります。スコアの評価基準の大部分は「ブラックボックス化」していますから、一度低いスコアをつけられると自分で改善がままならず、ロースコアの人は社会の下層で固定されてしまう「バーチャル・スラム」が生じるかもしれません。アントフィナンシャルの本社にて。Zhang浜田:そのスコアはどういう基準でつけられているんですか。あらゆる個人情報から評価付けされるようですが、評価基準の詳細は明らかになっていません。婚活サイトの登録者などはモテるためにスコアを上げようと手を尽くすわけですが、結局はいたちごっこですよね。アルゴリズムの側にアドバンテージがある。ロースコアの者が這い上がるのはやっぱり難しいわけです。スコアが中ぐらいから上の人たちも評価基準がわからないので、うかうかしていられない。行動をとる必要がある。中国政府は人々のお行儀がよくなり、社会が安全になることを狙っているわけですが、評価される側はやっぱり疲れますよね。反政府的な発言がスコアに連動するとなれば、表現活動も萎縮するでしょうから、自由で民主的な空間もシュリンクする。物理的暴力を伴わない恐怖政治が、データ駆動的な社会的信用エコシステムによって可能になるのかもしれません。次のクラスに上がるためのパスポートウーバーはすでに不可欠の交通インフラであり、移民たちが社会に溶け込むための入り口にもなっている。Segar浜田:尾原さんはこうした状況についてどう思われますか?尾原和啓さん(以下、尾原):今の話は信用スコアの副作用についてですよね。悪い面もあれば、いい面もあります。いい面としては、このスコアが次のステップに上がるパスポートにもなり得るということ。いい行いをしている人はいい機会をたくさん得られるんです。アメリカでは「ウーバー(Uber)」のドライバーになることが、移民が社会に溶け込むためのファーストステップになっています。言葉が話せなくても、アプリさえ入れておけば行き先が地図に示され支払いもやってくれる。これまでだと英語が話せないために就職差別を受けていたはずの人たちが普通に働ける。浜田:信用はストックできるから、ちょっと休んでも取り戻せるんですか。尾原:おっしゃる通りです。ウーバーで3年間、レビューが4.5を切ったことがない優秀なドライバーがいたとする。カローラに乗っていたけど、客単価が倍になるレクサスバンに乗り換えたい。これまでは移民のドライバーにローンなんて下りにくかったけど、ウーバーのスコアが与信となってローンが下りる。次のクラスに上がるパスポートにもなるんです。Advertisement日本には戦うべき思想がない浜田:日本でも企業がサービスとしてスコアリングを始めます。NTTドコモも同様の事業に参入すると発表しています。日本には曲がりなりにも個人情報保護とかプライバシーという考え方があるので、中国のように一気に広がらないとは思いますし、官民での共有や連携も当面心配しなくてもいいと思います。本人がコントロール権を持ち、どう使おうと自由だということになる。自分が登録した婚活サイトから信用スコアを任意で求められれば、高い人は出しますよね。これが連鎖的に起こり始めると、スコアは信用機関の手から離れて、事実上社会全体に広がっていくかもしれません。婚活サイトなどにスコアが載っていない人は「スコアが低いんだろう」と思われて毛嫌いされる。結局、AIのつけた点数による社会的格差が生まれる可能性はゼロではない。浜田:負のスパイラルですね。このスコアリングの問題は、ヨーロッパでは一般の人たちも巻き込んだ議論が進んでいますよね。尾原:ヨーロッパでは「このサイトはこういうプロファイリングのシステムを使ってます。あなたの情報を使っていいですか」というポップアップが自動的に出る。嫌な時は、これに関する情報は出したくないということを選択できる画面に簡単に飛べるんです。浜田:日常的にそういう選択を迫られると、自分たちのデータがどこで、どこまで取られているのかということに自覚的になれますね。この権利はドイツの憲法裁判所で1983年、憲法上の基本権として承認されました。データの行方について自分で手綱を握れるという発想は、ユダヤ人選別のためにナチスによってデータベースが作られ、個人情報が勝手に使われたという苦い歴史のほか、ヨーロッパの貴族文化が関係していると指摘されています。貴族の伝統は、「尊厳(dignity)」という価値を生んだ。社会的な体面とか、誇りですね。EUの一般データ保護規則(GDPR)は、アルゴリズムで個人の趣味嗜好や政治的傾向などを予測・分析する「プロファイリング」や、社会的信用力を予測するようなスコアリングについても一定の規律を設けましたが、背景には「尊厳」概念と結びついた情報自己決定権の発想があります。比較法学者であるジェイムズ・ホイットマンによれば、貴族の伝統のないアメリカは、政府の干渉からの「自由(liberty)」を重視するという憲法文化がある。確かに、政府からの干渉を嫌う「自由」な憲法文化が、情報の自由なやり取りを促進してきた部分があり、それがGAFAのような巨大プラットフォームを育てたという側面があります。EUでは「尊厳」概念から、プラットフォームによるユーザー情報の管理にも政府が首を突っ込む。対してアメリカでは「自由」概念から、そこは基本的には私的自治で、という発想が強い。欧米間のデータ政策の違いは憲法文化の対抗でもある。共産主義を基調とした中国のデジタル・レーニズムが入ってくる。浜田さんが最初に挙げたデータをめぐる国際間の対立は、大袈裟にいえば、立憲主義のモデルや政治体制をめぐる対立でもあるわけです。