機械学習に詳しくなりたいブログ機械学習に詳しくなりたいブログ機械学習や数学について勉強した内容を中心に書きます。記事は数学的に厳密でなかったり誤りを含んでいるかもしれません。ご指摘頂ければ幸いです。事前分布はカーネル関数を使って表すことができ、そしてガウス過程となっていることを確認しました。www.iwanttobeacat.com今回は、ガウス過程を使って回帰問題を考えます。訓練データをもとに新たな入力に対する予測値をガウス過程を使って考えていきます。式から消されており存在しません。カーネル関数から求められるガウス過程でした。ガウス過程に従うはずです。このことを使って新たな入力に対する予測値を求めていきます。加わっているとするとです。正規分布に従うとすればと書けます。データをまとめて表せば、各誤差は互いに独立ですからとなります。ガウス過程で確認したように、です。定数倍はカーネル関数の中に含まれているとします。)さて、線形回帰をベイズ推定で解く(1)予測分布の導出でも使いましたが、正規分布に対する以下の公式を使います。対応させれば、式(3)と式(4)よりとなり、これで訓練データの分布がわかりました。なるのは、分散の加法性からも明らかです。