1)2021/11/18に公開・約3,100字ツイート#techtech!この記事は2021年4月に書いたものです。こんにちは、もっちゃんと申します。AI/MLの活用がどんどん進んでいる世の中ですが、一方で導入した後に倫理問題などの壁が立ちはだかることがあるようです。いった問題には機械学習モデルに関するさらに深い理解・把握などが必要になります。AIについて見て行こうと思います。(本エントリーの内容は個人的な解釈や見解が含まれますのであらかじめご了承ください。MLとはhttps://docs.microsoft.com/ja-jp/azure/machine-learning/concept-responsible-mlMicrosoftでは信用できるAI/MLの構築に必要な要素として下記の点をあげています。機械学習モデルを理解するモデルの動作を解釈して説明するモデルの不公平性を評価して軽減するユーザーとそのデータを保護する差分プライバシーによりデータの漏えいを防ぐ準同型暗号を使用して暗号化されたデータを操作するエンドツーエンドの機械学習プロセスを制御するデータシートで機械学習のライフサイクルを文書化する機械学習モデルの中身への深い理解、データの気密性を担保し、そして一連の処理を統合・管理する。することでAI/MLのテクノロジが引き起こす可能性があった、望ましくない結果を事前に察知して防ぐことができるようになるというものです。今回はこの要素のうち、「機械学習モデルの理解」について見て行こうと思います。Microsoftでは機械学習モデルのより深い理解のため、下記のオープンソースなどを作り出し実現しています。AnalysisInterpretMLInterpretMLは機械学習モデルを説明・解釈可能にするため、下記の機能が提供されています。特徴量の重要度(グローバル)個別の特徴量の重要度(ローカル)とwhat-if分析FairlearnFairlearnでは、機械学習モデルに潜む、偏りやバイアスによって不公平なモデルになっていないかを可視化します。Analysisそしてエラー分析です。予測結果との誤差がなぜ起きているのかを深く理解し、機械学習モデルに潜むエラーの根本的な原因を診断します。まとめまずはざっと紹介してみました。次回以降でさらに1つ1つ掘り下げて見ていきたいと思います。Analysis」を使ってみているところになります。Studioの実験に組み込まれていますね。オーガナイザ/エンジニアフレンドリーシティ福岡アワード2020受賞(LDGQ)バッジを贈って著者を応援しようバッジを受け取った著者にはZennから現金やAmazonギフト券が還元されます。Analysisまとめ参考Zennエンジニアのための情報共有コミュニティAboutZennについて運営会社お知らせ・リリースGuides使い方Publicationよくある質問LinksTwitterGitHubメディアキットLegal利用規約プライバシーポリシ。