19:00世界的に広がる顔認識技術による「監視」と、社会はどう向き合うのか顔認識技術を警察当局などが捜査に使用する動きが、世界的に加速している。現時点での認識率はまだ低く、誤認識や非検知といった問題も現実に起きている。システムは完璧ではないという事実を受け入れながら、いかに社会における顔認識技術の活用に向き合っていくべきなのか。IMAGES過去数年にわたって中国政府は、世界最大の映像監視および顔認識システムの構築に向けた多額の投資を行ってきた。これまでに配備された監視カメラの数は1億7,000万台を超える。中国南西部の貴州省貴陽市で12月に実施された運用試験では、警察当局がデータベースに英BBCの記者の顔写真を登録すると、システムは人口430万人の都市をくまなくスキャンし、わずか7分で当人を見つけ出した。江西省南昌市のポップスターのコンサートでは6万人の観客のなかから、監視カメラ網によって「経済犯罪」の疑いのある容疑者が発見され、拘束されたという。人工知能(AI)とコンピューターヴィジョンは、特定の種類の画像を人間より正確に解析できるという研究結果がある。中国でのこうした事例と合わせて考えると、パノプティコン(全展望監視システム)の時代の到来を感じる。アメリカだけでも約1億1,700万人(成人人口の半分に相当する)が、当局の顔認識データベースに登録されているのだ。顔認識システムの正確性と信頼度は、現時点では一般に言われているよりはるかに低い。その不完全さから、警察当局の捜査はある意味では問題のあるものになってしまっている可能性がある。技術が未熟なことで、誤認識だけでなく、非検知(データベースに登録されている人物を検知しない)という間違いを起こしやすいのだ。非検知率のほうが高い不正確なシステム極端な例ではあるが、欧州連合(EU)の情報開示ルールに基づいて、イギリスのサウスウェールズ警察が明らかにしたデータを見てみよう。昨年6月にカーディフで行われた欧州サッカー連盟(UEFA)チャンピオンズリーグの決勝戦では、正しい認識は173件だったのに対し、間違いは2,297件に上った。誤認識率は92パーセントだ。ユタ大学でコンピューターサイエンスを教えるスレッシュ・ヴェンカタスブラマニアンは、こう指摘する。「当局にしてみれば、余計な人を多く捕捉しても、あとでそのなかから問題の人物を見つければいいため、システムは機能していると判断するでしょう。問題が生じることもありません。ヴェンカタスブラマニアンは、自動化された意思決定における差別や偏見についても研究している。サウスウェールズ警察は、アルゴリズムは改良され、データベースの画像も高品質なものを使うようにしたと主張する。当局はそれでも、チャンピオンズリーグなどでの顔認識システムの導入は成功だったとの立場を崩していない。同警察はウェブサイトで、「顔認識技術を検証して将来的な利用の可能性を示す一方で、警察官と市民からこの技術に対する信頼を得ることができたという点において、過去10カ月の試験運用は完全に成功でした」としている。3月にカーディフで行われたアンソニー・ジョシュアの世界ヘヴィー級タイトルマッチにおける非検知率は、87.5パーセントに達している。ヴェンカタスブラマニアンは「エラー率が高いということは、群衆が写っている画像をデータベースと照合すると、たくさんの間違ったヒットが出てくることを意味します。逆に、群衆のなかから特定の人間を探そうとするときは、見つけることができません」と説明する。「アルゴリズムは特定の用途に合わせて訓練する必要がありますが、そこにズレが生じてしまうのです。ある用途を想定してつくられたシステムが、実際にはわずかに違う方法で配備されることでエラーが生じます。「完璧ではない」前提のシステムづくりの重要性プライヴァシーへの影響を懸念する人々は、顔認識システムの欠陥を喜ぶかもしれない。精度の低いシステムなら隠れるのは簡単だ。現実には、システムのエラーによって罪のない人が不審者扱いされたり、下手をすれば誤認逮捕なども起こり得る。コロラド州デンヴァー在住のある男性は、2件の銀行強盗をめぐって2回逮捕された。防犯カメラがとらえた犯人がこの男性に似ていたことが理由だが、結局どちらも別人だったことが明らかになっている。顔認識アルゴリズムを訓練するために使われるデータセットに、人種などの社会的な偏見が混じり込むと、それがシステムに反映されるという研究結果もある。Technology」の代表を務めるアルヴァロ・ベドヤは、「問題はなぜエラーが起こったのか明らかにされない点です。透明性の欠如はルールがないことが原因です」と話す。機械学習の研究者たちは顔認識システムについて、技術がどれだけ進化したとしても100パーセント間違いがないものをつくるのは不可能だと指摘する。プライヴァシー保護を訴える活動家などはこうした現実を踏まえ、顔認識システムの評価や管理の徹底、および関連法の整備の必要性を強調する。世界の立法機関は、この技術のパラメーターの法文化に手間取っている。1990年代から犯罪捜査に顔認識を試験的に取り入れてきたイギリスでも、法的な枠組みは固まっていない。アメリカでは下院議員のジム・ジョーダン(共和党、オハイオ州選出)とテッド・リュー(民主党、カリフォルニア州選出)が、政府による顔認識システムの採用をめぐる法案を提出する意向を示している。実際に法律が制定されるまでは、テクノロジーは野放しのままだ。米NPOの電子フロンティア財団(EFF)のジェニファー・リンチは、「いくつかの空港および陸路の検問所では、税関検査や出入国管理で顔認識システムが使われるようになっています」と指摘する。リンチは2月、法執行機関による顔認識ツールの使用に関する報告書を公開したが、「わたしが特に懸念しているのは空港での使用です」と言う。「民間の航空会社の一部と協力して国際線の搭乗者への検査が行われています。全米の州警察や地方警察の少なくとも4分の1が、独自の顔認識データベースをもつか、必要に応じて他機関のデータベースにアクセスする権限をもっている。警察当局の大半は、運転免許証のような身分証明書に使われている写真のデータベースから情報を引き出すことができる。17年3月には、司法省が独自の顔認識プログラムを使っていると認めた。いま現在の問題からは守られない一方、会計検査院(GAO)の監査でも問題があることが明らかになっている。16年5月に行われた調査では、米連邦捜査局(FBI)がプライヴァシー関連法を遵守していないほか、「プライヴァシー影響評価(PIA)」を適宜に公開していないとの結論が出た。顔認識システムの精度確認テストも不十分だという。FBIはここで指摘された点の一部については改善に向けた措置を講じたが、GAOは17年3月に、まだ未解決の問題が残っていると指摘している。顔認識技術について唯一の救いは、それが機能しているときもそうでないときも、人々はこのテクノロジーがプライヴァシーに影響を及ぼすことを直感的に理解している点だ。ジョージタウン大学ロースクールのベドヤは、「世間は顔認識技術を気持ちの悪いものだと思っています。ブラウザーにおけるクッキーやその他のよくわからない技術と同じで、何かが間違っていると感じているのです」と言う。この直感的な関連づけによって、プライヴァシーがきちんと保護されるよう責任をもってテクノロジーを運用していくことを求める声が強まるだろう。将来的には厳格に規制されるとしても、いま現在の問題からわたしたちを守ることはできないのだ。NewPROMOTIONこれまでにない「新しい材料」を生み出す。それがよりよい社会をつくるから。──小川由希子PROMOTION深圳という「母なる大地」で闘い続ける。そのために、マイクはステージに置いてきた。──藤岡淳一PROMOTION謙虚に耳を澄ませば、建築はやがて「未来の記憶」になる。──田根剛PROMOTIONAudiが考えるモビリティの未来が、次世代コンセプトの「四重奏」から見えたPROMOTION七大陸最高峰を最年少制覇した南谷真鈴、「クルマで移動する自由」を体感する。PROMOTION足にも地球にも優しい「ジ・オニツカ」という“革新”PROMOTIONあまねく人に社会復帰の機会を。そのために、わたしは農業を続ける。