2018.10.22前回は回帰における正規方程式の意味するところを解説しました。今回は回帰において重要な決定係数に関して解説します。エクセルで散布図を作図すると、近似曲線を引くことが出来る機能があるのですがその適応度合いをみるためにR2を表示する機能はご存知でしょうか。このR2のことを決定係数と呼びます。相関関係とは何か?【公式からエクセルでの算出まで紹介します】と思われる方もいらっしゃると思いますが、実は目的が異なります。今回は決定係数の成り立ちから、相関係数とどのような違いがあるのかを紹介していきます。こちらの本を元に解説しています。楽天ブックスAmazonKindle動画でも解説しています。体重yと身長xの例で説明していきます。身長が高い人ほど体重が重いと考えられるので、ここには回帰関係があると考えます。そんな中で分散を考えると、まず身長xを考慮せずにあるn人の集団の体重yの分散を考える場合、その式は$$s_y^2=\frac{1}{n}\sum_{i=1}^{n}{(y_i-\overline{y})^2}$$ただしはyの平均値です。この数値は、この集団のすべての分散(=総分散)と言えます。・身長に依存しない体重がそれぞれ存在しているはずです。ここで身長に依存しない体重を考えてみます。この身長に依存しない体重の分散は、以下の式で表されます。$$s_{y・x}^2=\frac{1}{n}\sum_{i=1}^{n}{(y_i-\overline{y_{xi}})^2}$$ただしはxiに対応する平均体重です。分散の加法性から、総分散から身長によって決定されない分散を引くと、必然的に身長によって決定される分散が導かれます。$$s_r^2=s_y^2-s_{y・x}^2$$以下のイメージを見て頂くと、分かりやすいかもしれません。決定係数の算出ここで身長xに依存する分散sr2と全部の分散sy2の比率を示すことが出来れば、分散のうちに身長xがどれだけ寄与しているかを知ることが出来ます。$$r^2=\frac{s_r^2}{s_y^2}=1-\frac{s_{y・x}^2}{s_y^2}$$で示されるr2は、全部の分散yのうちxによって決定される分散の割合を示す数値と言えます。このr2を決定係数と言います。決定係数は0≦r2≦1の間を動きます。0の場合はxがyの値をまったく決定しないことを示します。1の場合はxがyの値をすべて決定することを示します。0に近いとxと無関係になり、1に近いとxに決定される度合いが増えます。決定係数は、その名の通りxによって、yが決定されるか否かを示した指標になります。この一定の範囲でxとyの依存度を示す数字として、別の代表的な指標が存在します。この二つの指標は、非常に強い関連を持つ値同士でありながら、微妙に示している事象が異なるという間柄になります。相関係数は-1≦r≦1ですが、0と1の関係は同じです。実は相関係数を2乗すると決定係数になります。逆に決定係数の平方根を取ると相関係数になります。この場合相関係数の符号ですが、回帰式$$y_a=a+bx$$のbの符号と一致します。2乗か否かだけの違いに見えますが、式のアプローチの仕方が異なります。相関係数は4事象のうちの数値の集まり具合に注目しています。決定係数は回帰式の変数xによる分散の比率に注目しています。・相関性を見る場合には相関係数を使う・回帰式の当てはまり具合を見る場合は決定係数を使う必要があります。簡単に相関係数0.5という数値で考えてみます。相関係数0.5というと中々相関性が取れていると言える数値と言えます(検定で見解が変わる可能性はありますが)。決定係数で考えると0.5を2乗するので0.25となります。この場合は「相関性はありそうだけど、回帰式での数値の予測は難しそう」となります。ここで相関係数と決定係数を混同して考えてしまうと「相関係数で0.5で相関性は強そうだから回帰式で数値の予測も出来そうだ!」と誤った結論を出してしまう可能性が出てしまうのです。これは単に相関性を示すよりも、yを導ける式(回帰式)の適合は厳しいという実態を良く表している関係性であると言えます。スポンサーリンクまとめ今回は決定係数の導出を解説しました。相関係数が目的変数と説明変数の依存ぶりを示す値なのに対して、決定係数は回帰式の信用度を示します。この辺りの区別がつかず、yとxの依存度を決定係数で計ってしまう人ってかなり多いと思います。エクセルの近似曲線で簡単に表示されやすいですから。故にこの辺りを明確に区別できるようになると、統計リテラシーが一つ上のレベルに上がります。決定係数と相関係数を使い分けて、正しい分析を実施しましょう。昨今機械学習やディープラーニングなど、データを扱うための知識の重要度は日々増していっています。そんな最先端のスキルを使いこなすには、土台となる統計学の知識が必要不可欠です。統計学は本で読んでも何とか理論は理解できてもそこからどのように実務に活かしたら良いのか分からない。そんな机上と現実のギャップが凄まじい学問です。そんな机上と現実のギャップを埋めるために、私は当サイトをはじめ様々なコンテンツを展開しています。youtubeでは登録者1万人の統計学のチャンネルを運用しています。熊野コミチの統計とお仕事チャンネル動画投稿だけでなく、週2回のコメントに来た質問への回答配信も行っているので気になる方はどしどし質問をお寄せください。youtubeでは無料動画だけでなく、有料のメンバーシップ限定動画も運用しています。メンバーシップ登録リンク(押しただけで登録はされないので、気軽にクリックしてください)エクセルやJAMOVIといった無料で使える統計ツールの実際の使い方。無料動画では敷居の高い(というよりマニアックゆえに再生数が見込めない(笑))解説動画をアップしています。本を読んで実際に分析してみようと思ったけど、どうもうまくいかなかった。本では見かけない、あるいは難しすぎて扱えない手法があったという方。一度ご参加ください(動画のリクエストがあれば反映させます)「そうは言われても、うちのデータは統計学じゃ分析出来ないよ」そういう方もいらっしゃると思います。私の経験上、そういったデータ分析が出来ない状況の一つとして量的変数として目の前の現象を扱えていないというものがあります。私のnoteでは、過去私が製品開発を行う上で実践した分析しやすい数値の測定方法を公開しています。私が開発活動する上で創意工夫を凝らして編み出してきたアイデアの数々を公開しています(私の知見が増えたら更新していきます)。本やネットではまず載っていません。うまい測定方法のアイデアが浮かばないという方はぜひこちらをご覧ください。解析しやすい数値化のノウハウ「いや、その前に使える手法を体系的に学びたいんだけど」そんな方には、udemyの講座を推奨します。まで、実際に私が実用する上で本当に使用したことがある手法に絞って順序立てて解説しています。どの手法が結局使えますのん?という方はぜひこちらをお求めください。こんな感じで、様々なコンテンツを展開しています。今後は品質工学や品質管理に重点を絞ったコンテンツなども発信していきます。リクエストがありましたら、それらも反映させていきますのでまずはお気軽にご意見くださいな。加法性...エクセル標準偏差が使えない時は、四分位偏差を代用しよう【外れ値に強いぞ】...バラツキCpk(工程能力指数)の正しい使い方【1.33か見るだけではない】...スポンサーリンク数字を予言する?回帰分析の原理を簡単解説します。