Diary「説明可能なAI」の現状とこれからツイートシェアはてブ送るPocketこちらの記事を読んで、いろいろ思うところがあったので、書いておきます。渋谷駅前で働くデータサイエンティストのブログ注目される説明可能なAI説明可能AIはひとつの注目領域で、ガートナーのハイプサイクルでは「説明可能なAI」として、これから「過度な期待」のピーク期に位置付けられています。ガートナー、「先進テクノロジのハイプ・サイクル:2019年」を発表AI、特にディープラーニングは、その判断根拠がブラックボックスになりやすく、何か問題が起こったときに、検証や改善が難しいという特徴があります。自動運転などにおいても、事故が起こってもなぜ事故が起こるような判断をAIがしたのか、を検証できないわけです。それを解消するため、AIの判断根拠を見える化しようというのが、説明可能なAIです。説明可能なAIは本当に人間が理解できるのか冒頭紹介した記事を読んでいただければわかるのですが、今まさにAIの判断プロセスを可視化するためのいくつかのアプローチが登場してきています。渋谷駅前で働くデータサイエンティストのブログこの記事の最後のあたりを読むと、「なるほどな」という気持ちと同時に、少し寂しいというか虚しい気持ちも生まれてきます。簡単にいえば、「説明可能AI」のアプローチは限界がある、ということです。基本的には「ヒトが直感でも解釈できそうなところを一部取ってくる」もしくは「ヒトが直感でも解釈できそうな別のモデルに何とかして当てはめる」ということをしているに過ぎず、悪い言い方をすると「優れたブラックボックスのMLモデルに対して見かけだけは分かりやすい劣化コピーの代用品を持ってきているだけ」だからです。「人間では認識しづらい複雑なパターンまで学習して予測する」のが機械学習なのに、それを「人間が説明可能にする」ということは、AIモデルを簡素化の方向へ進めることになるため、機械学習のメリットがないのでは、ということです。画像系であれば、AIが画像のどこを注目したのかを示すことができれば、あとから人間がAIの判断根拠を類推することもできそうです。説明可能になるにはAIのアルゴリズムの特性によって変わったり、参考情報として示すにとどまる場合がある、というのが現状のようです。ガートナーのハイプサイクルで紹介したように、技術的には注目領域ではあるのですが、「なんでも説明可能になる」というのは、「過剰な期待」なのではないでしょうか。個人的には、全てをホワイトボックス化するのに固執するのではなく、リスクの明確化、業務全体でのリスクヘッジなども考えるのが現実解では、と思います。今、これを読み始めました。AIが社会にどう浸透していくのか、各国の考え方などを踏まえながら書かれているのが面白いです。1,650Amazonで探すAI関係ツイートシェアはてブ送るPocketfeedly今年買ってよかったもの(2019年版)これまでと現在の政党支持率を調べてみたRECOMMENDこちらの記事も人気です。2018.10.29人工知能の現在地とこれからを知る。2019.10.28【書評】課題解決とサービス実装のためのAIプロジェクト実践読本このサイトについて岐阜在住のITコンサルタント。MBA(経営学修士)、中小企業診断士が書いてるブログです。BIで時系列データを分析するなら、カレンダーテーブルを作るのは必須security@facebookmail.comからメールが来た。BIで時系列データを分析するなら、カレンダーテーブルを作るのは必須security@facebookmail.comからメールが来た。miniOrange。