Systems」の意訳です。Srinivasanさんによる投稿です。Unsplash公平性とは変化しないものではありません:分析を長期視点に拡張するLiu等による貸付問題の定式化は、銀行の融資ポリシーの短期的な結果のみを検討していました。opportunity:EOエージェント)が含まれます。ML-fairness-gymを使用して、シミュレーションを介して分析を長期(多くのステップ)に拡張します。下図:シミュレーションが進行するにつれて各グループの平均クレジットがどのように変化するかをグラフ化したもの。平均クレジットは各グループの条件付き返済確率で定量化しています。EOエージェントは、グループ2に所属する個人のローン申請許可件数を増やしますが、グループ間の信用格差も拡大させてしまいます。長期分析では、2つの事がわかりました。第一に、Liu等によって見出されたように、機会均等エージェント(EOエージェント)は、不利な立場にあるグループ(当初の平均クレジットスコアが低いグループ2)に、利益最大化エージェントが使用するしきい値よりも低いしきい値を適用する事で、過剰に貸し付けを行います。これにより、グループ2のクレジットスコアがグループ1よりも減少し、利益最大化エージェントを使用したシミュレーションよりもグループ間の信用格差が大きくなります。グループ2はEOエージェントを使用する事で格差が悪化するように見えるかもしれませんが、累積ローン金額のグラフを見ると、不利なグループ2はEOエージェントによって、より多くのローンを許可されているがわかります。重視する指標が「クレジットスコア」なのか「融資金額の合計」であるのかに応じて判断が変わってきます。グループ2にとってEOエージェントの方が利益最大化エージェントより優れている、もしくは有害であるといずれの主張も可能です。第二の発見は、機会均等の制約です。機会均等では、各ステップでグループ間でTPRが均等になるように調整します。これはシミュレーション全体でTPRを均等にしません。このおそらく直感に反する結果は、シンプソンのパラドックスの一例と考えることができます。以下の表に見られるように、各TPRが2年間等しいことは、2年間の総TPRが等しいことを意味しません。これは、基準となるグループが変化していく時、機会均等性をどのように解釈すべきかが非常に難しい問題である事を示しています。機械学習システムが目的の効果を発揮している事を確認するためには、より慎重な分析が必要であることを示唆しています。シンプソンのパラドックスの例TPは真陽性、FNは偽陰性に対応し、TPRは真陽性率です。1年目と2年目に、銀行は2つのグループが平等なTPRになるように審査ポリシーを適用します。TPRを2年間で集計すると等しくなりません。本投稿では、貸出問題に関する調査結果に焦点を当てましたが、ML-fairness-gymを使用して、様々な公平性の問題に取り組むことができます。私たちの論文は、機械学習の公平性に関する学術文献で以前に研究された他の2つのシナリオの分析を拡張します。ML-fairness-gymフレームワークは、「公平性」が十分に検討されていない問題をシミュレートおよび調査するのに十分な柔軟性も備えています。networks」では、ソーシャルネットワーク上の個人やコミュニティ全体の公平性の概念をよりよく理解する研究を行っています。problem)と呼び、流行制御の定型化を検討しています。私達は機械学習アルゴリズムが私達の社会に及ぼす影響を他の研究者や機械学習開発者がよりよく理解し、より責任のある公平な機械学習システムの開発に繋がるML-fairness-gymの可能性に興奮しています。Githubリポジトリでコードと論文を見つけてください。コメントをキャンセルメールアドレスが公開されることはありません。=心に響いた言葉だから、善悪の対立は、やがてキリスト教とイスラム教の思想の土台となった。天国(善き神の領域)と地獄(悪しき神の領域)の信仰も二元論に端を発する。そのような信仰は、旧約聖書には微塵も見られないし。そもそも旧約聖書は、人々の魂が肉体の死後も生き続けるなどとは、けっして主張していない。WordPress.。