投稿者leck_33281件のコメントTweetPocketガウス過程と機械学習という本を読み進めたので、そのメモ。丸写しする訳ではない上、全部載せる気力もないので重要そうなところだけをかいつまんで書いていく。詳しい導出部分や解説はぜひ、上の書籍を参考にしてみてほしい。下のリンクから飛ぶことができる。実装カーネルクラス実装カーネルクラスガウス過程回帰クラス回帰してみる定式化そもそもガウス過程ってガウス過程って名前が正直ピンと来ないというか中身が想像しにくい内容であったが、それも書籍内で解説してくれていた。与える確率モデルのことをさすらしい。期待値(平均)と分散を求めるということになりそうである。期待値と分散を求めることが目的なので若干モデルの構造が異なる。期待値と分散をモデルかしてしまうのがガウス過程回帰だ。ベイズ線形回帰については以下のページでまとめたのできになる人は見てみてほしい。モデル化する確率モデルとなっている。以下のようにモデル化することでこのように表せる。使わずに表現することが可能。\\$$で表現すれば良いということになる。類似度(距離)を表すような関数を設定すれば良い。呼ばれるもので、以下のように表される。ガウス過程回帰では、これらの線型結合でカーネル関数を表現することもできる。もつノイズが乗っていると過程した際の追加分の分散。そのほかにも様々なタイプのカーネル関数が存在するらしい。確率モデル化することができる。期待値と分散を求めていく。\\$$が与えられた時の期待値と分散は以下のようになる。今までみてきたように、カーネル関数を定めてしまえばあとは手順に沿って計算するだけで未知の値の期待値と分散をそれぞれ求めることができてしまう。ようなカーネル関数を考える。求めれば良いということになる。偏微分した値を要素にもつ行列となる。Descent)を用いてパラメータを何回か更新する。ここのパラメータ最適化の方法はいくつかあるらしいが自分の馴染みのあるものを使用することにする。実装カーネルクラスまずはカーネルを作成するクラスを設定する。カーネルは以下のものを使用する。n’)$$実装カーネルクラスまずはカーネルを作成するクラスを設定する。カーネルは以下のものを使用する。)を求めるものも用意した。k_starガウス過程回帰クラス今度は本体部分のクラス。\\$$を予測させることにした。color='purple')plt.legend()plt.xlabel('x')plt.ylabel('y')plt.grid()plt.show()この結果がこれ。vが場合によっては負の値になってしまっているので数式的にまずいミスを犯している気がしてならないが、一旦保留。毎度の事ながら、実装したコードは以下のレポジトリにアップロードしてある。統計・深層学習等の勉強記録コメントは受け付けていません。ubuntu著者プロフィール。