日経クロストレンドとはログインお申し込み会員になると様々なサービスが利用できます。執行役員CPO人工知能(AI)がなぜそのような“答え”を出したのか。機械学習モデルの振る舞いを理解できる度合いを「解釈性」と呼ぶ。ビジネスなどあらゆるシーンで人工知能を活用する社会では、学習モデルの精度はもちろんのこと、なぜそのような結果を出したのかを説明できないと顧客の支持を得ることは難しい。解釈性は深層学習によるモデルが普及する現在、重要な研究テーマの一つになっている。深層学習が持つ課題の一つに「解釈性」がある。解釈性とは、機械学習モデルが入力に対してなぜそのような出力をしたのか、というモデルの振る舞いを理解できる度合いを指す(i)。深層学習によるモデルは様々な予測タスクに対して高い性能を誇るが、モデルの中身はブラックボックスとなり、なぜモデルがそのような予測を行ったのかが分からないことが多く解釈性が低いといわれている。機械学習に求められる最も重要なことは予測精度だが、解釈性が重要になるケースも多い。ビジネスの意思決定に機械学習を用いる場合に、そのモデルの精度はもちろん重要だが、なぜモデルがそのような振る舞いをしているのかを説明できない場合、事業の責任者や、顧客などのステークホルダーの支持を得ることが難しい。モデルを構築する過程において、精度の向上のためにエラー分析は非常に重要だが、うまく予測できないサンプルがなぜそうなったのかを知ることはモデルの改善に非常に重要である。機械学習モデルが差別的な振る舞いをしてしまうことが指摘され問題となっているが、こうした事象を未然に防ぐためにも解釈性は重要である。予測精度と解釈性にはトレードオフの関係があると言われており、解釈性は深層学習によるモデルが普及する現在、重要な研究テーマの一つになっている。detection」(ii)から、特に変数間の交互作用に関する解釈性に関する手法を紹介する。Recomenndation)」を提案した。オープンな広告データを使って、実際に交互作用を説明し、GLIDERによって予測精度を改善することに成功。その上で、広告以外の他のタスクにおける有効性も示している。Detection)」(iii)を提案していた。Network)」にしか使えないという課題があり、この論文で提案しているGrad-NIDではそれを拡張して様々な形のネットワークにも適用できるようにしている。この記事は会員限定(無料)です。今すぐ続きを読む会員登録(無料)会員の方はこちらログイン日経クロストレンドの会員特典とは?有料会員になると全記事をお読みいただけるのはもちろん12000以上の先進事例を探せるデータベース2未来の出来事を把握し消費を予測「未来消費カレンダー」3日経トレンディ、日経デザイン最新号もデジタルで読める4スキルアップに役立つ最新動画セミナーほか、使えるサービスが盛りだくさんです。中心としたマシンラーニングコミュニティー「deeplearning.jp」では、最新論文の輪読会を毎週開催することによって、参加者間での知識や技術を共有している。本連載では、この輪読会の内容を一部抜粋してお伝えしたい。利益率を高める3つのステップもっと見るタグランキングいま多く検索されているタグと、そのタグの人気記事です。人気記事1仕事に役立つ知識の「書棚」サイゼリヤ元社長「給与は増える。3日で20万食突破3仕事に役立つ知識の「書棚」サイゼリヤ元社長「配膳ロボはコスパが悪い。若者へのアプローチ法もっと見るマーケ担当が読んだランキング企画・調査・マーケティング担当者が読んだ人気記事です。3日で20万食突破3仕事に役立つ知識の「書棚」サイゼリヤ元社長「給与は増える。Tablet」発売05/31ニフティ、光IP電話サービス「@nifty光電話」をオプション提供06/01MUFGなど、保有施設を「MUFGパーク(仮称)」として一般開放もっと見るマイページフォローしたタグ・連載・著者の最新記事を一覧できます。Reserved.この記事は会員限定(無料)です。今すぐ続きを読む会員登録(無料)会員の方はこちらログイン日経クロストレンドの会員特典とは?このコンテンツ・機能は有料会員限定です。記事が読み放題にお申し込み会員の方はこちらログイン日経クロストレンドの会員特典とは?このコンテンツ・機能はセミナー・プラス会員限定です。