引き続き、ゼロDの写経を続ける。今回は、学生の頃が懐かしい懐ワード、数値微分。Deepに入れないけれどおっさんの復習。解析的な微分と数値微分が一致するところを確認してみる。昔と違うのは、PythonとJupyterNotebookで超絶簡単に実験できるし、こうやってWordPressでLaTeXで記事を書いたりできる点。微分の基本的な考え方は以下の通り。高校数学の数3の範囲。\frac{f(x+h)-f(x)}{h}\end{eqnarray}情報系学科に入って最初の方でEuler法とRunge-Kutta法を教わってコードを書いたりレポート書いたりする。基本情報の試験かなんかで、小さい値と小さい値どうしの計算で発生する問題が現れる。ゼロDにはこの定義を少し改良した方法が載っている。\frac{f(x+h)-f(x-h)}{2h}\end{eqnarray}写経なので、がんばって数値微分を書いて動かしてみる。簡単な2次関数\(f(x)\)。(2*h)\(f(x)\)と、\(x=2.5\)のところの\(f'(x)\)をmatplotlibで書いてみる。y1plt.plot(x,j(x))plt.xlabel('x')plt.ylabel('y')plt.grid()plt.show()偏微分2変数以上の関数の数値微分は以下の通り。数値微分の方法は上記と同じものを使った。f(x_0,x_1)}{x_1}\)を求めてみる。f(1.0,x_1)}{x_1}=2.00..\)になった。コメントをキャンセルコメントを投稿するにはログインしてください。勾配の可視化2変数関数\(f(x_0,x_1)\)を各変数で偏微分する。順伝搬(forward)はNumpyの積和計算を使って超絶簡単に記述できる。何はともあれNumpyで行列の積を計算する方法について。出力層の総和を1にするように調整できれば、出力層を確率としてとらえることができるようになる。入力層に画像を放り込み、出力層でラベルに属する確率を出せば、画像にラベルをつける分類器になる。...活性化関数の実装。Step,Sigmoid,ReLU深層学習入門。Numpyだけで伝搬,逆伝搬を計算することで深層学習に慣れていく。自分の理解のためだけの記事なので、誤りがあっても気にしない。(+S3)やりたいことは以下の2つ。x_0},\frac{\p...勾配の可視化2変数関数\(f(x_0,x_1)\)を各変数で偏微分する。この世界に中途半端に金をかけることの無意味さを理解したつもり。そのお...おっさんが数値微分を復習する引き続き、ゼロDの写経を続ける。今回は、学生の頃が懐かしい懐ワード、数値微分。Deepに入れないけれどおっさんの復習。近所の多摩川がマジで溢れそうでそれどころではなく......MNISTの手書き文字認識用データ取得クラスの作成MNISTから手書き文字認識用のデータセットをロードするクラスを作ってみた。出力層の総和を1にするように調整できれば、出力層を確率としてとらえることができるようになる。順伝搬(forward)はNumpyの積和計算を使って超絶簡単に記述できる。どちらの状態でもない過渡状態を経て状態が遷移するみたい。今回知...ansibleでaws-cliをインストやりたいことは以下の2つ。AFFINGER4.。