コンピュータ将棋に関する基礎的な情報を収集し、分析し、発表する所です。lfics81このブログではコンピュータ将棋に関する様々な統計量を取り扱っており、記事を理解する際に統計学の知識が必要となることがあります。以前の解説記事「平均と標準偏差:それって不偏推定値?」では、平均と標準偏差についての解説を行いました。今回は相関係数と線形回帰についての解説を行います。「そんなの知ってるよ」という方は飛ばしてください。0\]があるのではないかという疑念を抱くことがあります。xとyについて正確なデータが無限にあるのであれば、関係を証明することは容易です。\}\]しかなく、しかも値は必ずしも正確ではなくて誤差が含まれてしまっています。今回は線形関係に絞って解説します。サンプルをx軸、y軸上にプロットしてみましょう。相関関係がない(無相関)の場合には下の図1のようになるはずであり、誤差が無視できるような綺麗な線形関係の場合には図2や図3のようになるはずです。このような「見える化」を行えば、相関の有無が視覚的に分かることになります。ここで用心深い人なら「ちょっと待てよ」と疑問が浮かぶかもしれません。「グラフの描き方に任意性はないのか」と。確かにグラフの描き方には、原点の取り方、並びに縦軸と横軸のスケールの取り方という任意性があります。実際に図4は図1と同じサンプルデータですが、グラフの描き方が違うため、与える印象も変わってくるかもしれません。そこで、通常はグラフの描き方を以下のルールで統一します。原点は、それぞれサンプルの平均が0になるように選ぶ。縦軸と横軸のスケールは、それぞれサンプルの標準偏差を単位とする。0の時はそもそも無関係)。サンプルデータが傾き+1の直線に近い時を正の(線形)相関があると言い、傾き-1の直線に近い時を負の(線形)相関があると言います。このように視覚的に確認するのは有効なやり方ですが、数値化することも大切です。完全に正の相関がある時には+1となり、完全に負の相関がある時には-1となり、無相関の時には0となって、そうでない時には、それらの間の値を取るような指標があると便利になります。S_{vv}}}\]です。\bar{y}\]を導入しました。\bar{y}\]は、それぞれxとyの平均です。相関係数という場合には、通常はこれのことを意味しています。この式は、平均が0になるようにシフトしたxとyのサンプルデータをそれぞれベクトルだと考えた時に、その単位ベクトルの内積になっています。単位ベクトルの内積なので、必ず-1から+1の範囲の値をとります。完全な線形相関の場合には、ベクトルが線形従属になりますので、その単位ベクトルの内積は+1か-1です。無相関の乱数の時に0に近くなるのも明らかでしょう。ピアソンの相関係数の絶対値が1に近い時には線形相関があることが確認できます。絶対値が小さい時には、線形相関があるかが確認できないので、相関係数自体の意味が乏しくなり、次の記事で解説する線形回帰の結果も怪しくなってきます。実際に、次の記事で示す通り、相関係数は線形回帰の当てはまりの良さを示す量(残差の二乗和)と関係しています。相関係数には他にも様々なものがあり、大きさではなく順位のみを見る(ノンパラメトリックと言う)スピアマンの相関係数やケンドールの相関係数などが有名です。一般的にノンパラメトリックな方法は、データの誤差に対して頑強(ロバスト)である一方で、信頼できる結果を得るにはサンプル数をより多く必要とするという特徴があります。上述の通り、ピアソンの相関係数は線形相関が確認できない場合には、あまり意味のない量なのですが、現実には絶対値がかなり小さいのにもかかわらず用いられていることがあります。)}\]と近似できます。erf(x)\]は誤差関数erf(x)の補関数です。仮に無相関であったとしても、Pの確率で偶然、|r|以上の値が出てきてしまうということなので、Pが十分に小さくないと相関があるとは言えません。この時、十分に小さいという判定基準を有意水準と呼び、例えば、5%や1%等が使われます。\]の時に相関があると考えることができます。この他にも相関係数の値から相関の有無を検定する方法はありますが、ここで紹介した以外の手法はxとyの分布が正規分布であるという特殊な仮定に基づいたものであることが多いので注意してください。前段落の論法は統計学で常習的に用いられ、「5%の有意水準で帰無仮説が棄却され、相関は統計学的に有意である」等と言います。ここで注意してほしいのは、「統計学的に有意でない」=「このサンプルデータからは相関があるかどうかは分からない」ということであって、必ずしも「相関がない」ということを意味しているわけではないということです。推理小説風に例えると、「この調査結果からはAが犯人かどうかは分からない」という事は「Aは犯人ではない」という事とは一致しないということになります。ここのところは非常に混同しやすく、研究者でも勘違いをしやすいものです(経済学者が混同してしまっている例は、例えば、ディアドラ・N・マクロスキー「ノーベル賞経済学者の大罪」に記されています)。統計学的有意性とサンプルデータの正確性は関係ありませんし、統計学的有意性とその相関の科学的な重要性が関係ないことも言うまでもありません。最後に、相関の話をする際にお約束となっている相関関係と因果関係の違いについても記しておきます。相関関係「xとyが関係している」と因果関係「xがyの原因である」が違うというのは当たり前のことなのですが、もう一歩踏み込んで書くと、そもそも科学においては因果関係を証明するという事は非常に大変なことなのです。相関関係というのはデータを集めて統計処理すれば出てくるもので、言わばただの観測事実に過ぎません。一方で、因果関係というのは最終的にメカニズムを解明しないと分からないものであり、科学研究の立場からすると、相関関係とは全くレベルの異なる課題ということになります。その両者を混同してしまうというのは「因果関係は簡単に分かるはず」という人間の思い込みに由来しているのではないかと思われます(この因果関係も証明は困難ですが)。以上、ピアソンの相関係数を計算することにより、線形相関の有無を確認できることが分かりました。それを次の記事で解説します。lfics81様々な統計量を調べるため、棋士の棋譜を収集して整理しました。集めてきた棋譜は基本的にネット上で公開されているものです。収集後に破損や重複、駒落ち、ペア対局の棋譜を取り除き、また文字・改行コードやファイル形式、棋士名の記法を統一しました。その後、棋士ごとに棋譜数を数えて、おおよそ100局程度以上の棋譜があるプロ棋士についてリストを作成し、それらの棋士が含まれていない対局の棋譜は取り除きました。リストは、この記事の最後に記します。この棋譜集を「棋士棋譜集(2015年11月版)」とし、以後、利用する際には、そのように記します。棋譜集は一年程度の間隔で更新していく予定です。収録棋譜数は52377、その内、投了決着が51610、千日手が666、持将棋が94、その他(中断など)が7となっています。本ブログでは様々な統計データを分析していくわけですが、その際に棋士のレートの情報が必要になることがあります。棋士別成績一覧」)が存在しますので、そちらのデータを参照するという方法もありますが、ここでは棋譜集のデータから算出するということをやってみたいと思います。この手法は、データ量で劣るため、棋力の測定という意味では質が下がりますが、棋譜集のデータのみで情報が閉じるので、研究の一貫性という意味では利点があります。レートの計算にはイロレーティングを用います。イロレーティングについては以下の解説記事をご参照ください。2:あなたのレートは......レートを計算するのはリストの棋士のみで、他の対局者については全て「その他」というくくりにして、計算上は一人の棋士として取り扱います。利用するデータは投了決着のものに限定し、引き分けは取り扱わないこととします。対局日時の時間的要素は全て無視することにします。16)に基づいてレートを更新します。棋譜集を一巡したら、再び対局を乱数で並び替えて同様の更新を繰り返します。初期依存性の排除のため、最初の20巡のレートは捨て、その次から一巡ごとにレートを記録して、1000巡分のレートを集めて、平均と標準偏差を計算します。平均と標準偏差については以下の解説記事をご参照ください。平均と標準偏差:それって不偏推定値?計算結果は、この記事の最後に記載してあります。結果は整数で記していますが、実際の計算は倍精度実数(double)で行っています。この手法には以下の3つの問題点があります。結果を見る際には、これらの点に注意してください。棋譜集のデータに偏りやノイズがあること。「その他」の中には様々な棋力の棋士がいるのに違いが無視されていること。時間経過により棋力が大きく変化しているだろう棋士もいるのに同一の棋力として扱われていること。結果を見ると、棋譜数の増加に応じて標準偏差の値が大きくなっていることが分かります。16ならば大体40弱程度の値になるはずです(この辺の詳細は機会があれば改めて記します)。実際に棋譜数の多い棋士の場合にはそのような値になっています。一方で、棋譜数の少ない棋士で標準偏差が下がっているのはデータの数が少ないために十分に変動できていないことを意味しています。一見すると標準偏差が少ない方が正確な測定ができているように思いがちですが、今回の場合はそういうことではありませんので、注意してください。昔の棋士のレートが低く出てしまっていることも見て取れます。これは昔の棋士の対局相手が「その他」のくくりに入れられてレートが低くなってしまっていることが多いため、過小評価されているものと思われます。そもそも時代の違う棋士を同一の処理と基準で計ること自体に無理があるのでしょう。現役の強豪棋士のレートがレーティングサイトのものよりもやや低く出る傾向があるようです。この原因は不明であり、どちらが本来の棋力を表すものとして適切なのかもよく分かりません。一つの推測としては、レーティングサイトのものは時系列で計算しているため、組分け等の影響で強豪棋士はレートの上がった状態の棋士を相手にしていることが多く、結果的に今回の時系列を無視した解析よりも高い数値が出やすいということがあるのかもしれません。E})\]となります。以下にグラフを示します。黒線はレート差と勝率との関係を表しており、青の横線はそれぞれのレート差の時の勝率、オレンジの矢印はそれぞれの勝率の時のレート差を示しています。レート差が負の場合には選手を入れ替えて考えてみてください。イロレーティングについては以下の解説記事をご参照ください。最新コメント「最新トラックバック」は提供を終了しました。