ご希望の方は、お問い合わせページから資料閲覧パスワードをお問い合わせ頂きログインをお願い致します。アカウント名は"opendocument"です。#91既に発行済みのブログであっても適宜修正・追加することがあります。手法として最急降下法がしばしば用いられます。本来は、n次元ベクトル空間でのコスト関数の最小解が知りたい場所ですが、最小解を解くことは困難なので、極小解を求めます。出発点のまわりの谷底を見つけるわけであり、谷に下っていく方法のひとつとして、最も傾斜のきつい方向に降りることを最急降下法と呼びます。勾配の大きい方向ベクトルを求めるため、以下の式のようにベクトル要素の偏微分をとるハミルトニアン演算子を使用します。このハミルトニアン演算子を用いると、最急降下法による変位ベクトルは以下のように簡略に記述できます。ここで$\eta$は正の小さい数、例えば0.1とします。これは学習率と呼ばれます。これを具体的に見てみます。3.0)$から開始して最急降下法による漸化式をExcelで実行させてみました。0.0)$が求められました。x_3)$の推移を示します。偏微分で求めた勾配を逆に下っていく様子が現れています。前項のシグモイドニューロンを多層化することにより、任意の分類が行えるようになります。