当サイトを快適にご利用いただくには、ブラウザでJavaScriptを有効にしてください。お使いのブラウザはサポート対象外です。推奨のブラウザをご利用ください。~ディープラーニングが変える社会~[2]木村:AIの進化によって人間が想像・発見できなかったこともできるようになる、と。なると、人間が本来持つ「ちょっと見られたくないところ」とか「まあいいか」なんて思っていた部分もどんどん許されない世界が来るのかなと思う。それで、よく冗談で言うのだけれども、「我々のレストランは現金オンリー。カメラも何もなくログも付きません」みたいな超アナログレストランが逆に流行ったりするのかな、と。した、人間としての権利や従来持っていたものの変化について皆さんはどうお考えだろう。森:それは本当に重要だと思う。今後、サービスやアプリケーションの設計はプライバシーの設計とほぼイコールになると思う。それで「我々はこのデータを取っていません」「このデータは捨てています」といった宣言をすることで、サービスに関してユーザーに安心してもらうことが大切になっていく。IoTの時代になると、なんだかよく分からないまま大量にデータが取れちゃう。それで自分たちも知らない大量のデータがあって、「気付いたらそれがリークされて大問題になっていた」なんて話にもなり得る。従って、データ取り扱いに関するガバナンスを効かせるためにも、顧客の信頼を得るためにも、「自分たちはこのデータを使っていません」といったメッセージを出すことは重要だ。楽天技術研究所でも「研究者はユーザーのデータを触っていません」と宣言している。ユーザーのデータを触らなくてもできることは多いので。したメッセージを出すことで、サービスの安全性をアピールするというのは多いに有りだと思う。松尾:実際、いろいろと難しい問題があると思う。会場の皆さんがそれぞれの事業ドメインで、「うちのお客さんはこういう感じ。いうときはこういうものを必要とするんだよ」なんて言ったとする。その知識はどこで得たのかというと、恐らくお客さんの行動を数多く観察し、それらを抽象化しているわけだ。した個別データが残っているのはまずいし、「Aのお客さんはこう言った」と言うのもまずい。抽象化するとOKになる。ポイントは個別情報をどこまで捨てながら抽象化したものを活用するか。逆に言えば、抽象化して個々が特定できないような情報粒度にしたうえで処理をすることが大事なのだと思う。武田:そのあたりの感覚はtoCとtoBでも少し違いがあるように思う。我々がつくった監査の仕組みを入れているところでは、「すべてのメールを見られている」といった根強い拒絶感みたいなものもないわけじゃない。一方では監査の担当者が感謝されることもある。いうのも、そもそも最初から監査をまったくしていなかったわけではなく、ぜんぶ見切れなかっただけ。一部は人間がサンプル的に見ていた。これを従業員の立場で考えるとどうか。人間の担当に見られるのと、まず機械が見て関係がありそうなものだけ抽出するのでは、「後者のほうがいいんじゃない?」と。見なくていいようなものを機械に見させるからこそ、見ないで済む面もあると思う。木村:ディープラーニングの応用例として防犯カメラでの活用もよく言われる。人を認識させ、「犯罪や起こりえるリスクを未然に防ごう」と。これ、松尾先生がおっしゃる通り、個人と紐付けなければ大丈夫ということだろうか。実はカメラについてもいろいろ考えないといけない。これまでは画像の処理技術がなかったから、カメラで撮ることもたいしたことじゃなかった。撮った時点で誰がどういう人と一緒にいて、どんな表情で、どういう服を着ていたのか、技術的には分かる。そこは恐らくコントロールしないといけないから、「個人が同定できるような特徴量は使っていません」といった宣言を行うとか、なんらかの管理手法が必要になってくるのではないかなと思う。木村:だんだん悪いことがやりづらい世界になってきて(笑)。松尾:逆に、人は悪いことをやる権利があると考えるべきで(会場笑)。木村:なるほど(笑)。その権利はどうやって担保されるのかな、と(会場笑)。松尾:多少悪いことをしても、1回目は「お前、それちょっとまずいんじゃない?」という警告を受ける権利とか(会場笑)、そういうものがあるんじゃないかと思う。武田:我々の監査システムでは不正の段階をモデリングしている。情報漏洩に関しては3段階に分けている。これは会社に対して不満が溜まって、「もう辞めてやる」「ほかの会社に移る」という段階だ。これは次のところへ行くための“おみやげ”を集める段階になる。ここに来ると、たとえば技術や顧客や製品の情報を集めはじめる。以前所属していた部署の人に声を掛けて「アレ送ってくれない?」なんていうコミュニケーションをしたりする。最終的な「実行」段階で外へ持ち出す。止めたほうがいいよ?」なんて言って教育に使っている。実際に最後までやってしまえば逮捕されてしまうわけで、そういう段階に入る前から人間がうまくコントロールするという使い方はできると思う。森:たしかに機械の判定は‘Yes’か‘No’かではなくてスペクトラムで、だんだん濃くなっていく。薄い段階では薄い警告を出していくと教育効果のようになると感じる。その意味では大きな意義がありそうだ。木村:今でもメール本文を検索して、送信時に「このメールで大丈夫?」といったアラートを出す仕組みはある。それに近いのかもしれない。した機能を高度化した感じになる。AIが進化したら人間の役割はどう変わる?木村:さて、次は経営に関する話も振ってみたい。私としては、従来型の機械学習を含めたAIの世界では、ナレッジというか、付加価値がAI側にどんどん寄っていくようになると感じていた。ブラックボックス化してしまうのではないかな、と。AI活用のなかで人間側はどのように付加価値を乗せていくようになるのだろう。武田:ある程度の枠組みが決まっているなかで最適化するというのは、機械学習が得意とする領域だと思う。ある品物をあるあるユーザーに売るとか、そういったものがすごく多様になるから、そのパターンを見つけ出す。枠組み自体が変わってもあらゆる現象に適用できるかというと、そこはまだまだこれから。今はどんなゴールに基づいてそれを分析させたいのか、ある程度ダイレクションをする必要がある。木村:いわゆる目的設定を行うという...。