過学習についてみて見ます。訓練データを作成します。y)構成することとします。プログラムの初めに8点生成して、それらの点を10次関数でfittingすることにします。データの個数がfitting関数の自由度よりも小さいのでoverfittingすることが予想できます。最適化の目的関数は最小2乗誤差です。損失関数の変化が小さくなるまで学習を繰り返し、fittingする10次関数の係数thetaを決めます。f(x))plt.show()緑の線は学習データを作成するために使った3次関数のグラフ。点は3次関数にノイズを加えて作成した学習用データ。オレンジの線は10次元関数でfittingした結果のグラフ。オレンジのグラフは元の3次関数のグラフとはかなりずれた結果になっていますので、この結果を使用して新しい入力xに対して出力yを求めると期待しているものとは異なった結果となりそうです。与えられた8つの学習データに対してはそれなりにいい近似になっているように見えますが、未知の入力に対しての予想精度が悪くなっている、これが過学習です。パーセプトロンで線形分離を実装してみる今度は、パーセプトロンを使って線形分離をしてみます。読者になるmathJaxはてなブログをはじめよう!wshinyaさんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。