個のランダムな入力値のセットを生成後、このランダムな重みを使用してロジスティック回帰の中間出力値を計算します。別のランダム値を出力に加算して意味をなさないデータにし、オーバーフィットの可能性を高めます。項目に分割しています。testData);ロジスティック回帰の予測モデルは、以下のステートメントで作成しています。カウンターの上限です。設定すると、正規化が使用されなくなります。つのステートメントで評価しています。正規化の重みを決めなければならないことです。手作業で試行錯誤を繰り返すことですが、通常はプログラムを使用します。正規化の重みを見つけ、モデルの品質を評価しています。分類をトレーニングするステートメントと同様です。メソッドに渡しています。別の設計として、以下のコードを呼び出す方法もあります。メソッドが正規化の重みを決定するため、インターフェイスが若干わかりやすくなります。正規化は、モデルのオーバーフィットを減らす手法なので、正規化を理解するには、まずオーバーフィットについて理解する必要があります。する重みが得られますが、このトレーニング後のモデルを新しいデータに適用すると、予測精度が大幅に低下します。つのグラフを使って説明します。種類の項目を分類することを目標とする、仮定の状況を表しています。つのクラスの真の分割を表し、分割曲線の上に赤の点、下に緑の点が来ることを想定しています。つが上に位置しているのがわかります。オーバーフィットが発生しない優れたトレーニングでは、滑らかな青い曲線に対応する重みが求められます。このデータ項目は曲線の上に配置されることになり、赤のクラスになると正しく予測されます。目のグラフにも同じ点が含まれていますが、オーバーフィットが生じた結果、青い曲線が変化しています。今度は、赤い点はすべて曲線の上に位置し、緑の点はすべて曲線の下に位置するようになっています。曲線はかなり複雑な形状になります。曲線の下に位置することになり、緑のクラスだと間違って予測されます。オーバーフィットによって生じる予測曲線は滑らかではなくなります。「正規化」されません。このように不適切で複雑な予測曲線の特徴は、通常、重みが非常に大きな値になるか非常に小さな値になるかのいずれかです。つの方法は、モデルの重みが小さくなりすぎたり、大きくなりすぎないようにすることです。これが正規化の動機付けになります。モデルをトレーニングする場合、誤差をなんらかの方法で測定し、適切な重みを決める必要があります。誤差を測定する方法はいくつかあります。乗して合計し、その結果をトレーニング項目の数で除算します。使って、ロジスティック回帰の重みの候補セットを求めるとします。乗誤差は以下のようになります。データの項目数を表します。つを使ったトレーニングによって最小化されます。モデルの重み値が大きくならないように、正規化では、重み値を誤差項の計算に加算することで重み値にペナルティを課す、という考え方を取り入れています。最小化される誤差項の合計に重み値を含めると、重み値が小さくなるほど誤差値が小さくなります。正規化の重みは、重み値の絶対値の合計を誤差項に加算することで、ペナルティを課します。数式で表すと以下のようになります。乗した重み値の合計を誤差項に加算することで、ペナルティを課します。数式で表すと以下のようになります。