以下の関係式で表現できます。これはダウンサンプリング率を表現しています。式変形を行うことで、以下の式を導くことができます。用いて上式でcalibrationを行うことで、バイアスの影響を除去できることになります。実際に不均衡データに対して、バイアスの影響とcalibrationの効果を確認してみます。1:9でサンプル生成します。学習データとテストデータに分割します。1:1になるように学習データの負例に対してダウンサンプリングを行います。y_train)そして、ダウンサンプリングを行ったデータセットを用いてロジスティック回帰の分類器を学習して、テストデータに対して予測を行います。model.predict_proba(X_test)ここで、予測確率のヒストグラムを可視化してみます。紫の線はテストデータにおける正例の割合、緑の線はテストデータに対する予測確率の平均を表しています。その2つの値に大きな乖離があることが分かります。次に、テストデータの予測確率に対してcalibrationを行います。sampling_rate)calibration後の予測確率に対して、上と同様にヒストグラムを可視化してみます。紫と緑の線がかなり近づいており、現実に即した予測確率になっていると言えそうです。Lossを見てみたいと思います。Lossに関しては過去の記事を参照ください。calibration無しと有りで比較すると、以下の結果となりました。Lossをかなり小さくすることが出来ました。0.183実験のスクリプトは以下にあります。滝沢カレン(以下、敬称略)をご存知でしょうか。月別アーカイブはてなブログをはじめよう!pompom168さんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。