TomorrowAI(人工知能)2020年07月22日AI技術は、人々の生活向上に大きく貢献し始めている。その一方で、適切に利用、運用、管理されないことにより、個人のプライバシーや多様性、公平性を損なう恐れがあると指摘されている。した中、2019年3月に日本政府は「人間中心のAI社会原則」を発表。AIの社会実装に向けた広範な課題がクローズアップされた。日本ユニシスグループも2020年2月、「AI倫理指針」を発表し、未来に向けた新たな模索をスタートさせた。CTO総合技術研究所長の羽田昭裕が語り合った。(以下、敬称略)*本記事は2020年6月にリモート取材したものです。AIの活用が社会に浸透する中、今倫理問題に注目が集まる背景には、ITシステムにAIが加わることで「かつてないリスクや品質上の課題が生まれる」という危惧があります。加えて、技術開発において、近年は多様なエンジニア層がAIを搭載したシステム開発に参画できる環境も整いました。開発者の家からでもプロダクトを社会に発信できるようになり、ますますその懸念を深めています。これまで、大規模生産を前提としたプロダクトの品質担保やトラブル時の責任所在については、「製造物責任」などがありました。このため、AI活用においても「リスクや品質上の課題を克服するためには、技術開発に際して一様に規制を強めればよい」との動きもあります。私自身はそうではないと感じています。当社におけるイノベーションの萌芽は、多種多様なユーザー企業などとの共創関係から生まれることが多い。したイノベーションの生成過程に規制を持ち込むメリット、デメリットは、まだ十分に切り分けられた議論がなされていません。江間先生はどのようにお感じでしょうか。AI活用を前提としたシステム開発・技術開発の面ではユーザーとベンダーも含めて垣根が曖昧な状況です。今のAI技術の主流でもあるディープラーニングも、ユーザーが加わることでデータの確保や社会実装に向けた改良が進みます。垣根が曖昧だからこそイノベーションも進みやすい。その一方、「トラブルが発生した際の責任は誰が負うのか」という点は曖昧です。これまで加速度的に社会を変えてきたIT技術分野一般でも、同様の課題を少なからず抱えていたのではないでしょうか。私は何十年間も決着がつかなかった諸課題を一気に整理するよい機会と捉えています。ソフトウェア文化には、使用者責任と製造者責任が曖昧な「無法状態的な部分」があったと感じます。現在は、開発の中にAI活用が進展することで、棚上げしてきた課題点が数多く露呈したと考えています。私は、これをきっかけに、責任の切り分けについての考え方を明確にして次世代にバトンを渡したいという気持ちを持っています。議論すべきポイントは3つあると思います。「AIだから特別と考えない」ことです。AI活用に関する法規制や倫理的課題への対応は、ITシステムやデータの扱いに関して今まで積み重ねられてきた議論を踏まえることが大切です。AIにだけクローズアップした対処法では、「我々が作っている/使っているのはAIではない」ということで規制や運用の「抜け穴」が生まれる恐れがあるからです。次に「人と機械の関係性」を再考する必要があります。先ほどの人と機械の責任配分の問題だけではなく、「個人とは何か」を改めて考える必要が出てきています。外にありますが、亡くなった方のさまざまなデータを用いて再現するような技術があります。これは情報倫理だけではなく生命倫理の問題とも関連してきます。最後に「AIは単なる道具ではなくインフラになっている」と理解することです。民間だけではなく、医療や交通、法執行分野などの公共分野の意思決定支援にもAIが使われ始める中、プライバシーやセキュリティ、公平性を巡って公共と個人の利益のバランスを考える必要があります。COVID-19対策でもこのバランスは重要な視点です。日本ユニシスとしては、こうしたAI倫理の諸課題をどのように捉えているのでしょうか。江間先生には、AI倫理に関する三井グループの研究会でお世話になりました。この会での検討も踏まえて、2020年2月に日本ユニシスグループとしての「AI倫理指針」を打ち出し、今後の技術開発にAIを適用する際に守るべきことを公表しました。議論の出発点は、「AI活用では無自覚のうちに人の身体や思考、行動に介入してしまうこと」にあります。それを設計する技術者が無自覚なまま、このセンシティブな領域に踏み込んでしまう恐れがあります。この点にとどまらず、ステークホルダーの多様な関心への配慮も求められることから、技術者個々人の努力だけでは解決できない事象をカバーする点が、当社のAI倫理指針の肝になっています。AI活用を巡る議論の焦点は、生命倫理に近い様相を呈してきました。いう組織を構築して対応しています。一般的に指針は「作って終わり」になりがちです。うまく使えたとしても、形骸化していく可能性も残ります。自由なイノベーションを阻害することにもなりかねません。そこはどのようにお考えでしょうか。繰り返しになりますが、イノベーションは多様な背景を持つユーザーとの共創関係の中から生まれると考えています。連携を通じてイノベーションとのバランスを図ろうとしています。先ほど「AI活用と生命倫理領域の近接」というお話もありましたが、AI倫理を考える上では「人権」や「人間の尊厳」を捉える際の視点が重要だと思います。死後デジタル労働])。当社は、内閣府の戦略的イノベーション創造プログラム「AIホスピタル」に参画しています(参考:「AIホスピタル」が引き起こす医療革命)。そこでは、江間先生がおっしゃる通り、インフォームドコンセント(十分な説明と同意)の場面の中で、AI活用によって患者さんをいかにサポートするかも議論となっています。「どのような使い方をすればクライアントは納得するのか」「どのような伝え方をすればよいか」などです。この議論から浮かび上がるのが、どのような技術を作っても「利用者側が何を求めているのか」「提供側が何を軸にするのか」が、整合していなければ現実的に役立たない点です。「人間とIT技術の関係性」を見つめ直す本質的な問いです。私も伝え方と受け取り方の議論は重要だと感じます。「技術を受容してもらうにはどうすればよいか」という質問をよくされますが、一方向的な考え方だと思います。伝え方、受け止め方によって人々の技術に対する反応は異なってくるので、相互にコミュニケーションを図っていくことが大切ではないでしょうか。私たちソフトウェアの専門家の仕事は、解きたい問題を特定した後、その解となるシステムを設計してプログラムを開発することです。この作られたプログラムが、利用されることを通じて、新たな問題を生み出すというのは、ソフトウェア工学の基本的なテーマの一つでした。AI活用では、そこが先鋭的な焦点となるわけですね。これは設計やアーキテクチャではなく、プロセスとして対処するのがよさそうです。AI倫理において、このプロセス技術については十分に議論されていないように感じます。開発から利用に至るまで関係者が対話できる場のデザインやツールが必要となってきます。情報を開示、説明すればよいというものでもありません。AI技術の開発者とサービス提供者が異なる場合なども多いため、単一の企業だけでは対応できない部分も出てきます。そのため、業界団体でのガイドライン作りや、国同士、国と企業の間、さらにはユーザーも巻き込んでベストプラクティスを作っていくことが重要になります。「問題は必ず起こるもの」という前提で、監査や保険などの仕組みも一緒に開発をしていくことが重要になります。AIの判断プロセスに固執してしまうと品質の担保や利便性の向上という本質的な価値が見失われてしまうということもあるでしょうから。「企業の採用判断をAIに支援させる」と言うと、多くの方は「AIの仕組みがブラックボックスだと困る」と中身を知りたがります。一方で、同じ大学の出身だからとか、直感的にいいと思った、など人間の判断のほうがよっぽど不透明な場合もあるわけです。人間の判断だと不問にされてしまうものも、機械の判断と言われると途端に許せなくなるのはなぜか。品質の担保の在り方を改めて考える必要があると思います。IoTの社会実装でも同じようなことが起きています。実証実験はよいけれど、現場に持ち込もうとすると、導入によって起きる否定的な面が明らかになることが多い。人間との関係を踏まえて、AIやITという人工物全般の責任問題を再構成していくことが今後求められてくるのでしょう。ビジョン研究センター特任講師を経て2019年4月より現職。人工知能やロボットを含む情報技術と社会の関係について研究。主著は『AI社会の歩き方-人工知能とどう付き合うか』(化学同人、2019年)。ニューロコンピューティング、シミュレーション技術、統計学などに基づく新たな需要予測技術などの研究やシステムの実用化に従事。その後、Web関連や新たなソフトウェア工学に基づく開発技法の理論やアーキテクチャの構築、製造業や金融機関を中心とする企業システムのITコンサルティングなどを担当する。先端技術部長、2011年から総合技術研究所長に就任。2016年から現職に。関連リンク「AIホスピタル」が引き起こす医療革命(前編)「AIホスピタル」が引き起こす医療革命(後編)対談:「2046年」――ENIAC開発から100年後の世界(前編)対談:「2046年」――ENIAC開発から100年後の世界(後編)※記載内容は取材当時のものです。日本ユニシス株式会社は2022年4月1日にBIPROGY株式会社へ商号変更しました。日本ユニシス総合技術研究所は2022年4月1日にBIPROGY総合技術研究所へ名称変更しました。