AI」に触れながら解説TweetAIが注目されている理由のひとつであるディープラーニングには、モデルがブラックボックスになるという問題がある。そこで、医療業界や金融業界を筆頭に、「説明可能なAI」への注目が集まっている。今回は、そもそも説明可能なAIとは何か?という部分から、最近Googleが発表した説明可能なAIを実現するためのツールの長短まで、株式会社HACARUSのデータサイエンティストである宇佐見一平氏に解説してもらった。こんにちは、HACARUSデータサイエンティストの宇佐見です。「説明可能なAI」という言葉はご存知でしょうか。説明可能なAIとは、米国のDARPAの研究が発端の概念で、モデルの予測が人間に理解可能であり、十分信頼に足る技術、またはそれに関する研究のことを指します。医療業界のように、診断の理由を患者さんに説明しなけらばならない場合には、説明可能で解釈性の高いモデルが必要です。このような業界にもAIの導入が進み始めている近年、説明可能なAIの必要性も増してきています。AI(外部サイト)」というツールを発表しました。AIに触れながら、Googleがどのように説明可能なAIを実現しようとしているのか見ていきたいと思います。説明可能なAIとは近年AIが注目されるようになった要因の一ひとつとして、ディープラーニングの隆盛が挙げられます。ディープラーニングは非常に強力な一方、モデルがブラックボックスになってしまうという問題点があります。AIの予測結果がどのような計算過程を経て得られたものなのかわからないため、精度が高かったとしても、その予測の根拠がわからなくなってしまうのです。Unsplashとくにモデルのブラックボックス化が問題視される例としては、医療業界や金融業界などが挙げられます。医療業界では「なぜAIがそのような診断を下したのか」を患者さんに説明できなければ、診断にAIを採用することは困難です。AIが間違った判定を下した場合に、なぜ間違ったのかを検証することができません。このような背景があり、説明可能なAIに注目が集まっています。実際、権威あるデータマイニングの学会として有名なKDDの昨年度の発表のひとつに、説明可能なAIをテーマにしたものがありました。AIのみならず、富士通や日立も説明可能なAIに関するサービスを発表しています。説明可能なAIを実現するための手法もさまざまなものが開発されています。Functions」などが挙げられます。Attribution」という値に注目して説明可能なAIを実現しようとしています。Attributionsの詳細については後述します。Platform」上の機械学習モデルに対して利用できるものです。AIを用いると、どの特徴がモデルの予測結果にどれだけ貢献しているかを知ることができます。Strage」の準備が必要ですが、一度準備ができれば基本的にはどのようなモデルに対しても予測結果を評価することができるようになります。使用すること自体に特別な料金は発生しません。Platformの使用時間が増加することに伴って全体の使用料金が増加することはあります。予測結果を評価することで、以下のように役立てることができます。モデルのデバッグモデルが明らかに異常な挙動をしているとき、たとえば不自然に精度が高すぎる場合を考えましょう。AIを用いてモデルが注目している部分を可視化すると、テスト対象がアノテーションされたような画像に対して予測していたので精度が高かった、というようなミスを発見することができます。モデルの最適化モデルがどの特徴量を重視しているかを特定して、重要視されていない特徴を除くことで、予測精度を挙げられる可能性があります。Attributionについて説明していきたいと思います。Attributionという値によってモデルの予測結果を評価します。Shapley」があります。AttributionはSharpley値という値を上記の手法を用いて計算したものになります。Shapley値とは、ある特徴量がどれだけモデルの予測に貢献したかを示す値になります。Gradientsはbaseline(画像であれば画素値がすべて0の画像、テキストであればすべて0のembeddingなど)から入力までの勾配を積分することで得られます。ニューラルネットのような微分可能なモデルや巨大な特徴量空間を持ったモデルに対して使用することが推奨されています。Shapleyは真のShapley値の近似値になります。Shapleyは、アンサンブルツリーのような微分できないモデルに使用することが推奨されています。AIの機能を用いることで、これらの値を計算することができます。Attributionを見ていきましょう。AIにはチュートリアルが用意されており、Collaboratoryの形式で配布されているので、簡単に実行することができます。チュートリアルにはテーブルデータと画像データ用があります。テーブルデータ用のチュートリアルを実行します。データセットとして、ロンドンのレンタサイクルに関するデータとアメリカ海洋大気庁の気象データが用意されており、そのうちいくつかの変数を用いて、どれくらいの時間自転車が使用されたかを予測するモデルを作成することがこのチュートリアルの目的になります。Attributionを計算します。Attributionを計算した結果になります。値の正負、大小によって、ある変数がモデルの予測に寄与しているか、していないかを評価することができます。続いて、画像データに対するチュートリアルを実行してみます。用意されたデータセットは5種類の花の画像で、チュートリアル内容は花の画像の分類問題になります。Attributionを計算すると、予測対象の画像にモデルの予測にもっとも貢献した画素のトップ60%を表示することができます。Attributionを画像に重ね合わせたもので、緑色に塗られた部分がこの画像をあるクラスと分類するのに貢献したトップ60%の画素ということになります。Attributionがどのように表現されるかを見てきました。AIの主要な長短についてまとめたいと思います。メリット:重要な特徴量を一見して評価することができるここまでチュートリアルで見てきたように、モデルの予測にどの特徴量が大きく寄与しているのかを可視化できるため、直感的にどの特徴量が重要なのかを一見して判断することができます。テーブルデータであればどの特徴量がモデルの予測に寄与するかを見ることで特徴量選択に使えるかもしれませんし、画像データであればモデルが重要視した部分を見ることで、そのモデルが本当に意味のある部分に注目しているかどうかも確認できるかもしれません。Shapleyもどちらもモデルの計算結果を近似して得られるものです。Attributionはモデルの計算結果を反映しているとは限らず、またモデルがどのようにして計算しているかまではわかりません。Attributionを用いてモデルが重要視した部分はわかりますが、なぜそこを重要視したのか、どのような計算をして重要視したのかまではわかりません。モデルは未だブラックボックスのままであるということです。AIについて述べてきました。Attributionはある特徴が予測結果にどれだけ影響を及ぼすかを表すのみで、モデルのふるまいを表すものでは無かったりといった問題はあります。それでも、簡単に計算結果を近似値で評価できるのは非常に使い勝手がいいと思います。AIをうまく使っていければいいのではないでしょうか。卒業後、新卒でメーカーに入社しR&D部門に所属。そこで出会った機械学習に魅せられ、より深く広く機械学習やデータ分析を用いた課題解決に取り組みたいと思い、2019年3月にハカルスにジョイン。日本では稀有なアメフト経験者データサイエンティストとして日々修行中。Thuデータの価値を守る。Networksの援軍動き出す。Thuフェイクデータが本物以上の価値を持つように。データで生まれる新たな可能性。