説明変数が1つの場合を単回帰と呼びます。単回帰モデル単回帰モデルを以下のような直線で仮定します。この係数($a$、$b$)を求めることが回帰分析の目的です。回帰式とは、実測値($x_i,y_i$)から最小二乗法により求められた係数($\hat{a},\hat{b}$)により表される直線です。y_i$$平方和($S_{xx},S_{yy}$)と偏差積和($S_{xy}$)は以下で定義されます。残差($e_i$)は実測値と予測値の差($y_i-\hat{y}_i$)で定義され、残差平方和($S_e$)は残差の2乗和として定義されます。最小二乗法では、残差平方和を最小にする係数($\hat{a},\hat{b}$)を求めます。この条件は以下のように、この係数での微分が0となることです。x_i(y_i-\hat{a}-\hat{b}x_i)=0$$この連立方程式を解き、平方和と偏差積和を使うと係数は以下になります。\hat{b}=\frac{S_{xy}}{S_{xx}}$$以上より、回帰式は次のようになり、この直線は平均値($\overline{x},\overline{y}$)を通ることが分かります。上記の連立方程式より、残差については以下が成り立つことが分かります。x_ie_i=0$$また、残差平方和は定義式より、$$S_e=\sum(y_i-\hat{a}-\hat{b}x_i)^2$$$$=\sum\Big((y_i-\bar{y})+\frac{S_{xy}}{S_{xx}}(\bar{x}-x_i)\Big)^2$$を計算していくと、以下で表すことができます。寄与率($R^2$)とは、目的変数の全変動($S_{yy}$)のうち回帰によって説明できる変動($S_R$)の割合で、以下で定義されます。寄与率は1に近いほど性能のよい回帰式であることが言えます。相関係数で、以下で定義されます。回帰による平方和で、以下で定義されます。S_{yy}-S_e=\hat{b}S_{xy}=\sum(\hat{y}_i-\overline{y})^2$$尚、この式の最後のイコールは、回帰式を使って次のようにして確認することができます。実測値が予測値(回帰式)からどれくらい離れているかを表す量です。k番目のサンプルの標準化残差($e_k’$)は以下で定義されます。分散で、残差平方和を自由度で割って求められます。従うため、標準化残差が大きいサンプルは異常でないか検討し、異常である理由が見つかった場合は、そのサンプルを外して分析をやり直す必要があります。比テコ比とは、実測値の変化に対する予測値の変化の比を表します。番目のサンプルのテコ比($h_{kk}$)は以下で定義されます。$$h_{kk}\equiv\frac{1}{n}+\frac{(x_k-\overline{x})^2}{S_{xx}}$$テコ比が大きすぎると、予測値(回帰式)が実測値の変動により強く影響されることを表しており、好ましくありません。番目の実測値の平均値から乖離度を表します。理数の散策路.ホーム検索トップサイドバータイトルとURLをコピーしました。