07:30自律走行車は、今後も「人間に衝突」する──Uberの死亡事故から見えてきた現実と課題Uberの自律走行車が2018年3月に起こした死亡事故の原因は、いまだに明らかになっていない。原因はセンサーのハードウェアにあったのか、システムのバグなのか、それとも悪条件が重なったことによる“不運”なのか──。試験走行が続く限り今後も事故が避けられないとみられるなか、浮き彫りになった課題を整理する。IMAGES自動運転技術にかかわる人間は口を揃えて、いつかは事故が起こると“予言”していた。米国では年間約4万人、世界では125万人が自動車事故で死亡している。高速で走る金属の箱を操縦するのは、人間より機械のほうが適任かもしれない。自律走行車が人を殺してしまった。アリゾナ州テンピで3月18日、エレイン・ハールズバーグがUberの自律走行車にはねられて死亡した。この事故のショックは、まだ冷めやらない。Uberの試験車両と歩行者がぶつかる瞬間の記録映像を地元警察が公開すると、衝撃はさらに深まった。「死亡事故の瞬間」の映像から見えてきたことドライヴレコーダーの映像は、ハールズバーグが暗闇から突然現れる様子をとらえていた。道路の監視カメラの映像では、Uberの「安全ドライヴァー」が路上から目を離していたことが明らかになった。この映像の受け止め方は人によって違った。大多数は「あの状況なら、衝突を避けるのは無理だっただろう」と考えた。テンピ警察署長のシルヴィア・モイアは、地元紙『サンフランシスコ・クロニクル』の取材に対し以下のように答えている。「被害者の女性は、暗闇からいきなり路上に現れました。開発者たちの間には混乱が広がった。専門家の多くは被害者について、Uberの車両が走っていた車線に現れる前に別の車線を横切っており、Uberの車両のセンサーは彼女を認識していたはずだと指摘する。カリフォルニア大学バークレー校(UCB)のスティーヴン・シュラドヴァーは『WIRED』US版の取材に対し、「車載センサーは歩行者をきちんととらえており、状況を簡単に判断できたはずです」と話している。何かが不具合を起こしたのだ。人間のドライヴァーに特有のミスに慣れている世間一般と、自動運転の実現に取り組むエンジニアとの間に横たわるこの見解の隔たりは、非常に重要だ。自律走行車による事故は、これで最後ではないからである。ゼネラルモーターズ(GM)やフォードといった大手自動車メーカーから、ウェイモ(Waymo)、Aptiv、Zooxまで、多くの企業がこの技術の開発を進めている。公道での試験走行が続けば、軽い接触や追突事故だけでなく、死傷者が出る事故も発生するだろう。Researchの共同創業者で最高経営責任者(CEO)のマイク・ワグナーは、次のように語る。「自動運転技術がある程度まで成熟すれば、事故率は下がると言われています。技術を進歩させるには、公道で大量の試験走行を行わなくてはなりません。開発者側はバグを修正し、機械学習のアルゴリズムに手を加えてはいる。予想もしなかったような問題が必ず起きると覚悟しておくべきだろう。何よりも、自動運転の目的のひとつは、人間には避けられないような事故を阻止することにある。ロボットは人間なら簡単にできることに苦戦する場合がある。自動運転技術は将来的には、人間のドライヴァーが運転するよりはるかに安全なものに成長するかもしれない。それまでは、この技術がどのように機能し、機械がどのような状況でおかしな方向に進んでしまうのかを理解することは有益だろう。最高級のLiDARでも「数秒」では認識できないセンサーは自律走行車の「目」だ。クルマの周囲に何があるかを理解する助けになる。カメラでとらえた映像は、車線や標識を認識するには役立つが、データは2次元だ。電波を使ったレーダーは安価で、遠くのものを把握するのに適している。場合によっては、視覚的に遮るものがあってもその向こうを「見る」ことができるが、カメラほど詳細な情報は得られない。そこで登場するのが、レーザー光を使ったセンシング技術「LiDAR(ライダー)」だ。LiDARはパルス状に発光するレーザーを用いて、周囲の3次元画像をつくり出す。Uberの車両に搭載されていたのはヴェロダイン(Velodyne)というメーカーのLiDARで、既存製品では最も優れているとみなされている。価格も約8万ドル(約850万円)と最高レヴェルだ。ところが、その最高のLiDARを使っても、紙と鉛筆だけで戦う古典的なテーブルゲーム「海戦ゲーム」のような予測しかできない。LiDARで形状を把握するには、レーザー光をその物体に十分に照射する必要がある。自律走行車の場合は、それをわずか数秒で行わなければならない。うまくいけば、この方法で世界を正確にとらえられる。正確な推測に基づいてターゲットに関する情報を得て、敵の艦隊を撃沈する(自律走行車なら、ぶつかってはいけないものを避ける)ことができるだろう。クルマが速いスピードで走っているときには、レーザーが目標にきちんと届かない可能性がある。専門家によると、今回の事故のように対象物(歩行者)が車両に垂直に向かってくる場合には、こうしたことが特に起こりやすい。横から現れる歩行者や自転車にヒヤヒヤさせられる人間のドライヴァーにとって、機械のこの特性は奇妙に思えるかもしれない。対象物が秒刻みで動いているような場合、自動運転のシステムにとって周囲の物体で動いているのはどれなのかを把握するのは難しくなる。重要なのが対象物の分類だ。システムは機械学習を通じて世界について「学ぶ」。乗っている人、車線など)を与えられる必要がある。システムが間違いを犯すときもちろん、システムが間違いを犯すこともあり得る。機械学習の過程で何かがうまくいかず、人工知能(AI)が歩行者とその自転車をヴィニール袋か段ボール箱だと思ってしまう可能性もあるのだ。一時停止の標識の余白にテープを貼ると、AIが標識を認識するのに必要な時間が増えたという研究もある。自動運転システムが、ゆらめく排気ガスを固形物と認識した例も知られている。ワグナーはこの問題を研究しており、あるシステムが特定の気象条件では周囲の環境をきちんと把握できないことを発見した。「ほんのわずかな霧が出たことで、そのニューラルネットワークは視界を失いました」と彼は説明する。システムが正常に動作しなくなったときも、人間の目は周りにある物体を完璧に見ていたという。システムが目の前のものを認識できなければ、その動きも予測できない。AIは人間とヴィニール袋の動きには異なるルールを適用する。分類を間違えれば、どう動くかの予測も当然異なる。事故原因が分類違いにあった場合、Uberはさらに大量の画像を集めてシステムを再教育しなければならないのだ。原因はシステムのバグという可能性もある。自律走行車はとてつもない量のプログラムを実行している。プログラマーがどこかでミスを犯したのかもしれない。センサーは歩行者を正確にとらえていたのに、AIが間違ってそのデータを無視してしまったのかもしれない。今回の事故も、今後起こるであろう事故も、さまざまな要因が絡み合って発生する可能性が最も高い。カーネギーメロン大学で自動運転システムを研究するラジ・ラジクマールは事故の原因について、「これまでにはなかった複雑な組み合わせの結果だと考えています」と言う。あるシステムが誤作動し、予備システムも機能しない。最悪の事態に備えてバックアップとして準備されていた、どんな危機も防げるはずのシステムもダメだった。最後の砦になるはずだった、人間の「安全ドライヴァー」も機能しなかったのだ。ワグナーは「現実世界で働くロボットを構築するにあたっては、現実世界が非常に複雑で理解するのが難しいということを知らなくてはなりません」と話す。ロボットはアイコンタクトや手を振る、頷くといった合図を理解しない。目の前にある何かを壁や紙袋と間違えることもある。ロボットのミスは人間の目には不可解に映り、不安が募るだろう。それでも技術開発は続いてゆく。ロボットは酔っ払ったり、居眠りをしたり、運転中ほかのことに気を取られたりしない。したことを不可解と感じる存在だからだ。NewPROMOTIONAudiが考えるモビリティの未来が、次世代コンセプトの「四重奏」から見えたPROMOTION七大陸最高峰を最年少制覇した南谷真鈴、「クルマで移動する自由」を体感する。PROMOTIONこれまでにない「新しい材料」を生み出す。それがよりよい社会をつくるから。──小川由希子PROMOTIONテクノロジーが拡張するスポーツとアートの可能性:東京2020は世界の若者の希望となるかPROMOTIONあまねく人に社会復帰の機会を。そのために、わたしは農業を続ける。──小島希世子PROMOTION足にも地球にも優しい「ジ・オニツカ」という“革新”PROMOTION深圳という「母なる大地」で闘い続ける。そのために、マイクはステージに置いてきた。