活性化関数の役割なぜこれらの活性化関数を用いるのでしょうか。モデルの表現力を増すためです。活性化関数を用いると表現力が増すのでしょう。入力の加重和に対して、活性化関数を用いて変換を行うと様々な値の出力が行えます。様々な値の出力を持つパーセプトロンを組み合わせるとより複雑な表現が可能になります。その結果として高度な識別問題を解決できるようになると理解すればよいでしょう。これからは様々な活性化関数について解説していきます。ステップ関数パーセプトロンはどのような活性化関数を用いていたでしょうか。以下がパーセプトロンで用いられる活性化関数です。\)この活性化関数を用いると出力として1と0を得ることができます。この活性化関数のことを階段関数、またはステップ関数と呼びます。ステップ関数は1と0しか出力できません。そのため、情報のロスが激しく表現力に乏しいのが欠点です。\)の値に応じて階段のようになっていることが分かります。シグモイド関数では他にはどのような活性化関数があるのでしょうか。次は活性化関数の一つであるシグモイド関数について説明します。シグモイド関数はニューラルネットワークで用いられる活性化関数ですが現在はあまり使われていません。シグモイド関数を活性化関数として用いると勾配消失という現象が起こり、学習が停滞してしまうことがあるためです。以下がシグモイド関数を表した数式になります。\)シグモイド関数を用いると0から1まで連続な値を出力することができます。\)が小さいと出力が0に近づきます。以下のグラフからもシグモイド関数の様子が分かります。次にReLU関数について説明します。ReLU関数は最も一般に用いられる活性化関数です。勾配消失が起こりにくい、計算しやすいという2つの特徴により、ReLU関数は最も活性化関数として使い勝手がいいとされます。ReLU関数は以下のように表されます。\)ReLU関数のグラフは以下のようになります。まとめ今回は活性化関数としてステップ関数の他にシグモイド関数、ReLU関数について紹介しました。紹介した活性化関数以外にもtanh関数やSELU関数などが存在します。パーセプトロンはステップ関数を、ニューラルネットワークではシグモイド関数やReLU関数を活性化関数として用います。これらの関数を用いるとより表現力豊かなモデルを構築できることを頭に入れておきましょう。G検定を取得するメリットを解説!最弱オセロを初めて攻略した天才オセロ高校生。TrendCOMMENTコメントを残すコメントをキャンセルメールアドレスが公開されることはありません。コメント*お名前*メールアドレス*プライバシーポリシーはこちら上に表示された文字を入力してください。