これらの数式から正則化はパラメータが小さいモデルをより評価すると分かります。\)を大きくすると過学習に陥りにくくなります。L1正則化はパラメータの絶対値の和を、L2正則化はパラメータの二乗和を罰則項としていました。多くの場面でL1正則化は余分な説明変数を省くことを目的とした手法です。余分な説明変数を省くことを次元圧縮と呼びますが、L1正則化は次元圧縮のために用いられます。\)が0になりやすいためです。\)が0とされた説明変数は目的変数に対して無関係であることを意味します。L2正則化はモデルの過学習を防ぐことで精度を高めるために用いられます。結果としてL1正則化を使ったモデルよりも予測精度が高い傾向にあります。これはL2正則化を用いたモデルのパラメータの方がより滑らかで表現力に優れているためであると説明できます。まとめこの記事ではモデルの過学習を防ぐための手法の一つ、正則化について説明してきました。L2正則化がモデルの過学習を避けるために用いられる一方、L1正則化は不要な説明変数をそぎ落とす次元圧縮のために用いられます。L1正則化、L2正則化、それぞれを施した線形回帰をLasso回帰、Ridge回帰と呼びます。G検定を取得するメリットを解説!最弱オセロを初めて攻略した天才オセロ高校生。TrendCOMMENTコメントを残すコメントをキャンセルメールアドレスが公開されることはありません。コメント*お名前*メールアドレス*プライバシーポリシーはこちら上に表示された文字を入力してください。