3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。本で登場する数学的な内容をもう少し深堀りして解説していきます。この記事は、主にステップ47「ソフトマックス関数と交差エントロピー誤差」を補足する内容です。オーバーフロー対策をしたLogSumExpの計算と、LogSumExpを用いたSoftmax関数と交差エントロピー誤差の計算を確認します。参考文献おわりに・多値分類の出力層の計算$K$クラスの多値分類におけるソフトマックス関数(Softmax関数)と交差エントロピー誤差の計算について考えます。x_{n,K})$として考えてください。ここでは、ニューラルネットワークの出力を想定していますが、この記事の内容には影響しません。$\mathbf{x}$の各要素をソフトマックス関数により活性化します。