Systems」の意訳です。Srinivasanさんによる投稿です。貸出問題などを評価するための機械学習の標準的なやり方は、データの一部を「テストセット」として予約し、それを使用して関連するパフォーマンス基準を計算することです。次に、これらのパフォーマンス基準が主要なグループ間でどのように異なるかを調べることにより、公平性が評価されます。フィードバックループを持つシステムでこのようなテストセットを使用すると、主に2つの問題があることがよく知られています。第一に、テストセットが既存のシステムから生成された場合、それらは不完全であるか、そのシステムに固有のバイアスを内包している可能性があります。貸出問題の例では、「ローン申請が許可された個人」が「ローンを完済したか?」に関しての情報しか存在しない可能性があるため、テストセットが不完全な可能性があります。テストセットには、「ローン申請が許可されなかった個人」、または「以前にローン申請をした事がない個人」についての情報が含まれていない場合があります。二番目の問題は、機械学習システムの出力によって行われた行動が、将来の入力データとして影響を与える可能性がある事です。機械学習システムによって決定されたしきい値は、融資継続時にも使用されます。人々がこれらのローンを債務不履行にするか完済するかは、将来のクレジットスコアに影響し、機械学習システムにフィードバックされていきます。これらの問題は、固定したデータセットを使って公平性を評価する事の欠点を強調し、アルゴリズムが使用されている実際の環境でアルゴリズムの公平性を分析する必要性を動機付けます。そのため、私達は機械学習の実践者が機械学習システムにシミュレーションベースの分析を行う事を支援するML-fairness-gymフレームワークを作成しました。AIのGymフレームワークを使用して、逐次的な意思決定をシミュレートします。このフレームワークでは、エージェントはシミュレートされた環境と繰り返し対話を行います。各ステップで、エージェントは環境の状態に影響を与えるアクションを選択します。その後、環境は、エージェントの行動が引き起こした観測結果を明らかにします。エージェントをその観察結果を次のアクションを通知するために使用します。このフレームワークでは、環境は「システム」と「問題」の動的な関係をモデル化し、観測結果はエージェントへのデータとして機能するので、機械学習システムとして扱う事ができます。フレームワークで使用されるエージェントと環境の相互作用ループの図エージェントは、選択したアクションを介して環境に影響を与えます。環境はアクションに応じて変化し、内部状態の一部を観測として生成します。評価基準は、環境の変化履歴を調べて結果を評価します。貸出問題の例では、銀行がエージェントとなります。環境からの観察結果として、ローン申請者、クレジットスコア、およびグループの構成をデータとして受け取り、ローン申請を許可するか拒否するかの二者択一の形でアクションを実行します。その後、環境は、申請者が正常に完済するか破綻するかをモデル化し、それに応じてクレジットスコアを調整します。ML-fairness-gymはこのようにして結果をシミュレートします。そのため、銀行の融資ポリシーがローン申請者のグループに対して公平性を保っているかについて長期的な影響を評価できます。コメントをキャンセルメールアドレスが公開されることはありません。=心に響いた言葉ジャックと異なり、長い期間働くジェーンは、障害を通じてより多くの変化を経験し、より多くの不確実性に直面する。そこでジェーンに必要になるのは、もっと柔軟性をもって、将来に方向転換と再投資をおこなう覚悟をもっておくことだ。WordPress.。