ダイヤモンド編集部,土本匡孝(ダイヤモンド・オンライン)シェアツイートする一覧Photo:PIXTA本格的な自動運転時代が2020年にも始まるが、ルール作りや社会的コンセンサスが追い付いていない部分が少なくない。モビリティ企業への取材を基にレポートする。)時代に突入することになっている。交通業界にとって天変地異なのは、操縦の主体がドライバー(人)からシステムに置き換わることだ。人は運転から解放されて車内で自由な時間を持てる。安全性も人の運転より高まるとされている。一方で法律面、倫理面の課題も見えてきた。学者らの間で話題沸騰中なのが、倫理上の思考実験「トロッコ(トロリー)問題」だ。概念図で説明すると、ブレーキが壊れた(あるいはブレーキをかけても間に合わない)トロッコがある。そのままAの方向に進めば3人と衝突する。分岐点でBの方向に進行を切り替えれば、衝突するのは1人。さあどちらの選択が正しいのか、という思考実験だ。概念図は線路なので走行ルートは限られているが、実際の道路上では例えば急ハンドルを切って壁に激突して自損事故(被害者は運転手、乗員のみ)という選択肢もある。操縦主体がドライバーならば、どの判断をするにせよ、責任者は人間。システムが操縦主体の自動運転下では、システムが責任者となる。システムの選択基準をあらかじめ設定することになるのは、自動車メーカーになろう。ケースごとに「社会的合意を得られる判断をあらかじめ考えておくことが必要になるのでは」、ということで自動車業界や保険業界などを中心に関心が高まっている。米マサチューセッツ工科大学は、「モラル・マシーン」という名のウェブサービスで、世界規模の調査を実施している。トロッコ問題に関わるさまざまな運転場面を想定し、イラストを交えて質問。「直進すれば壁に激突して複数の乗員に死傷者が出るが、ハンドルを切れば乳児を含む複数の男女をはねる(ただし男女が歩いている横断歩道の信号機は赤色)」といった具合だ。回答傾向を分析したところ、社会的合意を得られる判断が国によって大きく違うことが浮き彫りになった。(ハンドルを切ることで被害者を選ばない)を優先する傾向が強い。中南米では、社会的地位の高さ、子ども、女性の優先度が高い。欧米は不作為の傾向が強かった。学者らの間でトロッコ問題の議論が過熱する一方、「ただの思考実験なので勝手にやってくれ。自動運転社会ではそもそもトロッコ問題は起きない」と断言するモビリティ企業幹部もいる。高度に進化した自動運転車両では、センサーが肉眼以上に余裕を持ってブレーキの間に合う距離で対象物を把握するし、ブレーキの異常を感知した時点で補助ブレーキが作動してトロッコ問題が起きる前に停車する。「トロッコ問題は手動運転時代の遺産に過ぎない」というのだ。最終的にはそうなるのかもしれないが、自動運転車両はまさに進化の過程にある。さまざまなリスクに対して議論をしておくことは大切だ。識者2人へのインタビューで掘り下げてみた。――政府の自動運転ロードマップでは「2020年までに移動サービスでレベル4(高度自動運転)」が始まることになっています。日本のレギュレーションが追い付いていない部分を整理して教えてください。中山幸二所長(法律分野)道路運送車両法はレベル4まで想定しています。道路交通法はレベル3(条件付自動運転)までしか想定していない。道路交通法を所管する警察庁はドライバーがいなければいけないという考えが根強いからです。「いざとなれば、すぐにシステムからドライバーに切り替わる」までのレベルは認めるというのが今の彼らのスタンスです。車両の認証(保安)基準もレベル3以上は世界で基準ができていません。独アウディの新車もレベル3の機能は備えていますが、封印していますよね。国際的な基準を今作ろうとしている。システムをどうやって測るか。今までは機械的に検査していました。これからは設計段階から設計思想を見ないといけません。――自動運転を巡っては、トロッコ問題が話題です。ドイツでは17年、国の倫理委員会がガイドラインを公表しています。要するに無作為が正解。プログラムは被害者を選択してはいけない、と。方がメーカーは安心して造れます。自分が死ぬかもしれない車を誰が買うのでしょうということになりますから。クルマが売れていくのでしょう。――日本の議論の状況をどう見ていますか。日本の自動車メーカーはまだ態度を表明していません。日本ではトロッコ問題になるといつも議論がストップする。外国の議論を紹介してそれで終わっちゃうのです。トロッコ問題は避けて通れないが、「そういう場面を作ってはいけないんだ」というのが今の状況だと思います。(保険分野)私は日本経営倫理学会に入っているのですが、自動運転をめぐる問題として出て来ていますね。さまざまな場所でここ2、3年、特に話題に上ってきた印象です。トロッコ問題という哲学の命題自体は以前からありました。これまでは現実味がありませんでした。AIの開発進化に伴い、自動運転という身近な話題が出てきました。米ウーバー・テクノロジーズが自動運転車両で死亡事故を起こしたりと。そこで改めてどう考えればいいのかという議論が起きています。――結論は出るのでしょうか。日本ではまだ、国もメーカーも誰も結論を出していません。哲学は「これが正解」という世界ではありません。「議論する」ということ自体が恐らく正解なのではないでしょうか。取り上げられています。9月に傍聴しましたが、まだ、「新しいトロッコ問題が出てきた」「どう議論したらいいのか」という取っ掛かりの段階です。何かしらの方向性が出れば、国の決定にも影響する可能性があります。――損保会社の自動車保険は自動運転時代の到来でどうなるのでしょうか。自動運転社会では事故は減ると言われています。それでもたぶん事故自体はなくならない。リスクがある限りなんらかの保険は必要です。損保各社は倫理観が問われています。誰も想定していないような事故が起きた時、「約款にないから」と断ち切っていいのか。大地震の際には人道上、お見舞金などの形で例外的に支払う対応をしています。損保会社の自動車メーカーなどへの求償権もクローズアップされそうです。これまでは製造物責任の立証困難などから損保会社がかぶるケースが多く、でも再保険が掛かっているので大きな問題にはなりませんでした。自動運転時代ではシステムの欠陥が明確な場合、損保会社が求償権行使する可能性があります。すると行使先は自動車メーカーなのかセンサーメーカーなのかと、わけが分からなくなります。この辺りはまだ議論が始まったばかりです。社会変革――法と保険』で紹介している模擬裁判では、利害関係者による仲裁コンソーシアムの設立を提案しています。業界でその方向に進んでいるわけではありません。責任割合とか出資割合とか議論は大変だろうと思います。※本記事はダイヤモンド・オンラインからの転載です。スマホお気に入り一覧マイページ。