医療職からデータサイエンティストへ医療職からデータサイエンティストへ統計学、機械学習に関する記事をまとめています。今回は以下のようなデータセットを使って、回帰直線を求めていきます。最小二乗法medi-data.hatenablog.comまずは、有名な最小二乗法からやっていきます。最小二乗法とは、全ての点から回帰直線に引いた線の長さがもっとも短くなるように、回帰直線を求める方法になります。4.855185うまくいきました!最尤法medi-data.hatenablog.com続いて最尤法を使って求めてみます。正規分布に従っていることを前提とします。グラフで見るとこんな感じです。この全てのxについての確率密度を掛け合わせた値(尤度)を最大化する方法が、最尤法になります。2.789027おお出ました!標準偏差シグマも最初にデータを作成した時に3を設定したので、ほぼ同じ値になってます。最後はあまり聞きなれない期待損失を使って求めてみます。期待損失とは、損失関数の期待値を最小にすることで求めることができます。式で表すとなんだかすごそうな式ですね....。意味は、先ほどからよく出てくる二乗誤差ですね。これは同時確率を表していて、値xであるかつ値yである確率になります。それを全てのxとyについて積分、つまり足し合わせた値を最小にしろということになります。分布が分からないので、ベイズの定理を使ってとして求めました。)mまとめ今回は回帰分析のための3つの方法をまとめてみました。学んだこと、日々の所感をまとめていきます。※本ブログは筆者が個人的に学んだこと感じたことをまとめたブログになります。所属する組織の意見・見解とは無関係です。medi_data0826引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。