09:002018年はテック大手がAI利用の「自主規制」に乗り出した年だった2018年は人工知能(AI)の利用が急速に進んだ1年だった。その一方で軍事利用や警察当局などへも応用が広がったことから、マイクロソフトやグーグルといったテック大手の間には自主規制の動きも広がった。そんな1年の動きを振り返る。OKAWIRED(US)Tweetセキュリティー企業Axonのアクションカメラ。警察当局にも採用されているが、顔認識技術は精度が十分でないため、システムに組み込むことはしないという。IMAGESテック大手はここ数年、人工知能(AI)と機械学習への投資を大きく拡大してきた。各社が血眼になって優秀な研究者の争奪戦を繰り広げ、音声アシスタントや顔認証システムの開発を急ピッチで進めている。今年は少し変わった動きもあった。一部の企業が、この分野に防護柵を設けたほうがいいのではないかと言い始めたのだ。軍事利用から距離を置くグーグルまずはグーグルだ。同社はAI関連で2件のプロジェクトを凍結すると発表した。原因は社会的な批判と、従業員による抗議活動である。Maven」と呼ばれる国防総省のドローンのプロジェクトにグーグルがかかわっていることが明らかになったことから始まった。グーグルはドローンが撮影した画像を解析するアルゴリズムを提供しており、国防総省はAI技術を応用して画像分析を自動化することで人的コストを削減する計画だった。これに対して、従業員4,500人以上が抗議の声を上げ、軍事プロジェクトからの撤退を求めるオンライン署名活動を始めた。グーグルは自社技術の利用は「非戦闘目的」に限られていると弁解したが、結果的に2019年末までの現行の契約は完了するが、契約は更新しないことを約束している。グーグルはこの決断と合わせて、AIの利用に関わる倫理ガイドラインを発表した。ここには、武器や「人の殺傷もしくはそうした行為を直接に助長することを主目的とする技術」には、AIシステムを応用しないと明記されている。グーグルは10月、このガイドラインに沿っていないことを理由に、国防総省のクラウドプログラムへの事業者入札にも参加しない方針を明らかにしている。Duplex」という人間そっくりな会話ができるAIプログラムが紹介され、最高経営責任者(CEO)のスンダー・ピチャイが電話でレストランの予約をするデモを見せている。あまりによくできていたために、対応したレストランのスタッフは、話している相手が機械であることに気づいていない様子だった。デュプレックスも「自分はAIなのだ」と名乗ることはしなかった。これには少しばかり非難の声が上がった。このため11月に実際に使えるようになったときには、会話の冒頭に「こんにちは、グーグルの自動予約サーヴィスです」という自己紹介の一言が加えられていたのだ。AIの利用を巡る議論によって、この分野が実に急速に進化し、かつ大きな成功を収めたという現状が浮き彫りになっている。それほど遠くない昔、AIは実用性の高い技術ではなかった。それがいまでは、画像や音声の認識、合成といったことが簡単にできる。自動運転システムも公道を走れるところまで成長した。実用化だけに焦点を合わせていた研究者たちも、ここに来て自分たちの仕事の成果を考え直すようになっている。AIがもたらす潜在的なバイアスフェイスブックで応用機械学習部門を率いるホアキン・キャンデラは5月、「ここ数年は処理速度を上げることに取りつかれていました」と語る。社内でAIを利用するプロジェクトが増えるにつれ、何か見落としていることがないか細心の注意を払うようになったという。した背景もあり、フェイスブックはAIの倫理的かつ公正な利用に取り組む社内チームを立ち上げている。Flow」と呼ばれる、機械学習のアルゴリズムが多様なサンプルできちんと機能するかを調べるツールだ。男性と女性、国籍といった区分で潜在的なバイアスがかかっていないかを確認するためのものである。これまでに、求人広告の作成機能の開発プロジェクトなどで利用されている。マサチューセッツ工科大学(MIT)メディアラボのジョイ・バオラムウィーニとスタンフォード大学のティムニット・ゲブルが2月に発表したある論文では、企業がテクノロジーを注意深く扱わないとどんな事態を招くのかが示された。バオラムウィーニとゲブルは、マイクロソフトとIBMの顔認識システムを分析し、いずれも有色人種を対象とした場合に精度が著しく落ちることを発見したのだ。両社のシステムは、クラウドの画像認識サーヴィスの一部として顧客に提供されており、バイアスが社会に広まってしまう恐れがある。マイクロソフトとIBMはその後、AIの学習に使われてデータセットに調整を施すなどして、急いでシステムを改良した。規制を求めるMS、警察に技術提供するアマゾンこうした研究結果も手伝って、特にAIによる顔認識システムの利用には、一定の制限を設けるテック企業が増えている。スタンガンやアクションカメラを手がけるセキュリティー機器メーカーAxonのCEOであるリック・スミスは8月、顔認証システムは精度がまだ十分でないため、警察官が身に着けるアクションカメラに導入する計画はないと明言した。(CLO)のブラッド・スミスが政府に対し、顔認識技術に規制を設けるよう求めた。グーグルもクラウド事業で「多目的」な顔認証システムの提供を見送る方針を示している。理由のひとつは、システムの悪用や有害な影響に関して、技術的および利用規約面での課題が解決できていないためだという。対極の姿勢を打ち出しているのがアマゾンだ。アマゾンは精度の低さが証明されている自社の顔認証システムを警察当局に提供している。AI」に参加するが、AIの利用を巡る指針のようなものは公表していない。曖昧な倫理ガイドラインの解釈もちろん、こうした倫理ガイドラインがAIの利用の大きな削減につながる見込みは薄いだろう。グーグルにしても、自らは国防総省とは距離を置く構えを見せているものの、顧客がグーグルのテクノロジーを使って軍事プロジェクトに参加することは禁じていない。同社の倫理ガイドラインにしても、文言の解釈の仕方はさまざまだ。12月には社外にガイドラインの実施に向けた専門家のアドヴァイザリーグループを設けることを明らかにしたが、具体的な設置時期や運営方法は示していない。その社会における役割」と題した149ページにわたる文書を公開した。マイクロソフトはときを同じくして、移民当局に顔認識システムを提供する内容の契約を結んでいる。自社技術が移民の強制送還や犯罪捜査などに使われることを受け入れたのだ。この動きは従業員の反発を招き、抗議運動が起きている。高まる規制の声AIの倫理については政治家も懸念を強めており、テクノロジー業界が自主規制をするかは別として、近い将来に法によって制限が設けられる可能性が高い。5月には欧州連合(EU)で「一般データ保護規則(GDPR)」が施行された。データ管理における消費者権限の強化は、AIの利用プロセスが複雑になることを意味する。テック大手に対する規制を求める声は、世界的にも高まっている。12月には、フランスとカナダがAIの課題を巡る国際的な研究グループを設立する計画を明らかにした。国連の「気候変動に関する政府間パネル(IPCC)」をモデルにするという。NewPROMOTIONデジタルは当たり前。ARの可能性PROMOTIONあまねく人に社会復帰の機会を。そのために、わたしは農業を続ける。──小島希世子PROMOTION謙虚に耳を澄ませば、建築はやがて「未来の記憶」になる。──田根剛PROMOTION難民は「難しい民」なんかじゃない。みんなが“自分らしく”暮らせる社会をつくる。──渡部清花PROMOTION深圳という「母なる大地」で闘い続ける。そのために、マイクはステージに置いてきた。