統計シェアするTwitterGoogle+Pocket今回は統計学で有名な「シンプソンのパラドックス」という問題について紹介したいと思います。簡単にいえば、同じデータでも分析の仕方によって全く矛盾したように見える結果が得られるというお話です。データだけ見ると、信じがたいような直感に反する現象がおきるので頭の体操としてとても面白いです。あまりに有名なパラドックスであるため日本語でも解説がいくつか出ていますが、人によって言っていることが違っていたり、不完全であったりします。多くはシンプソンによるオリジナルの論文を読んでないことから起因するのだと思います。シンプソンのパラドックスを交絡の問題だと捉える人は多いですが、個人的に不完全だと思います(間違いではない)。このように誤解が広まった歴史的背景も含めて、詳しく書いていきたいと思います。ちなみにアニメのシンプソンズはこの問題と全く無関係です。関連資料そもそもシンプソンのパラドックスとは?シンプソンのパラドックスを説明する際によく使われる例が次のようなものです。ある病気を予防する効果が期待される新薬Aが開発され、従来の治療法(コントロール群)と効果の違いを比較したいとしましょう。ランダム化比較試験ができると一番いいのですが、ここでは次の表にある観察データしか手に入らなかったとします。女性だけに注目して、新薬Aと従来の治療を比較してみます。0.95つまり新薬Aを飲んだ人の92.5%に効果があったのに対して、従来の治療を受けた人では95%に効果があったということです。直感的に、「女性では従来の治療のほうが良さそう」と思わせるデータです。つぎに男性だけに注目して、同じような比較を行います。0.7新薬Aを飲んだ人の60%に効果があったのに対して、従来の治療を受けた人では70%に効果があったということです。「男性においても従来の治療のほうが良さそう」と思わせるデータです。下の行、男女合わせたデータを見てみましょう。0.78男女合わせた集団全体でみると、新薬Aを飲んだ人の82%に効果があったのに対して、従来の治療を受けた人では78%にしか効果がありません。「従来の治療より新薬Aのほうが効果が良さそう」と思わせるデータです。ここで一つの疑問が出ると思います。男性でも女性でも効かないが、”人間”(男女合計)には効果が高い新薬Aなるものが存在しうるのでしょうか?*1男性でも女性で効かないなら、男女関係なく効かないので集団全体で見ても効果がないと考えるのが自然な発想です。このように、集団全体を見た時とその小集団に注目した時で一見矛盾したような結論がデータから導かれてしまうことを指して、「シンプソンのパラドックス」と呼びます。シンプソンのパラドックスの歴史的背景シンプソンのパラドックスを知るうえで重要な論文が二つあります。一つ目はパラドクスの名前にあるSimpsonが1951年に発表した論文。238-241.二つ目は、Blythが1972年に発表した論文。Simpson(1951)に書かれた現象を「シンプソンのパラドックス」と名づけ、解説を試みています。364-366.一般的にはBlythによって解説された内容、およびBlyth(1972)で使われている例がシンプソンのパラドックスを説明するときに使われています。上記の新薬Aの例も、(細かい違いはありますが)Blythや彼の論文を参考にパラドックスを理解しようとしたPearlが使ったものです。「シンプソンのパラドックス」という言葉の名づけ親なので、その説明にBlyth(1972)を参照するのは自然なのですが、BlythはSimpsonの言っていることを完全に理解しているとはいいがたいのです。そのため、不完全な理解が広がってしまっているのだと思います。実はSimpson(1951)から得られる教訓はBlyth(1972)が主張している以上のものだと考えられます。関連の逆転はなぜ”パラドックス”なのか本ブログで何度も登場しているおなじみPearlも、シンプソンのパラドックスについていくつかの解説を出しています。Pearlは因果ダイアグラム(DAG)の生みの親で、統計的因果推論やAI研究の分野を切り開いたコンピューターサイエンスの巨人です。Pearlは、集団全体(例:男女合計)とその小集団内(例:男女別)で関連の方向性が逆転すること自体はパラドックスでないとしています。(a+c)/(b+d)が必ず成立するとは限らないからです。これはシンプルに数学的な性質なので、関連が逆転したことをもってパラドックスと呼ぶのは正確ではないということです。新薬Aの例ではデータが矛盾しているように感じたのでしょうか?これを理解するためには、データから得られる「結果」とその「解釈」を区別する必要があります。「割合が高い」という表現を使っていることに注意してください。これは完全に数学的な表現であり、集団全体で関連の方向性が逆転したこと自体も数学的に起こりうる自然な現象です。したがって、実はこの三つの結果は矛盾していないと考えることができます。・「集団全体では、新薬Aのほうが効き目がいい」というものです。ここで重要なのは、「効き目がいい」という表現に、治療の種類と効果の有無の間の因果関係が想定されているということです。関連と因果は違う、本ブログでも耳にタコができるくらい言い続けてきたことです。この場合、上の三つの解釈は明らかに矛盾しています。論理的に考えても、男性でも女性でも従来治療より効かないのに男女合わせると従来治療より効き目がいいというのは成り立ちません。このようにデータの結果に因果的な解釈を持ち込むことでデータが矛盾しているように感じるのが「パラドックス」が生じる原因だということです。パラドックスは「交絡」の問題?前述のBlythやPearlらは、シンプソンのパラドックスは本質的に交絡の問題だと捉えています。交絡はDAGを使うことで、視覚的に理解することができます。因果関係を注目している二つの要因(例:新薬Aと病気Yへの効果)の共通原因Cが存在する場合は、そのCを条件付けしなければ得られる関連が因果関係を意味しないというものです。DAGに基づく交絡の定義についてはこちらをどうぞ。上記の例の場合、もしかすると性別によってどちらの治療を好むかが異なるかもしれません。性別によって病気のリスクも異なるかもしれません。次のようなDAGが成立する可能性があります。この場合、Cを条件づける必要があります。条件づけにはいろいろな方法がありますが、最もシンプルなのはCの値が同じ集団でAとYの関連を見るというアプローチです。男女別で関連を見るというのは性別を条件づけるのと同じと理解できます。回帰分析を使って”調整”するのも同じ考え方です。このような第三因子Cを条件づけすべきかどうかは、データから判断できるものではなく、性別と治療・病気リスクの関係性を(その他の研究や、臨床現場の実態などを参考に)自分の頭で考え、DAGに表現する必要があります。AとYの両方と関連している要因Cが交絡であると考える人もいます。実際に上の表にあるデータを使って計算すると、女性のほうが新薬で治療されている割合が高く、病気を発症する割合が高いことがわかります。このような統計的な基準を用いて交絡因子かどうかを判断するのは危険です。この記事の例4で示しているような状況下では、AとYに関連するCを条件づけることでかえってバイアスをもたらしてしまいます。非常に重要なので繰り返しますが、あくまで自分の頭を使って、注目している要因間の関係性(DAG)を考えたうえで、第三の要因Cを条件づけるべきかどうかを考える必要があります。性別で条件すべきであり、男女別でみた関連から得られる「従来の治療のほうが効果が高い」という結論のほうが正しそうだと考えることができます。実はシンプソンのパラドックス(データを合計するのか、分けて分析するのかで関連が変わること)を交絡の問題と一括りにするのは早計だといえます。それどころか、Simpsonが1951年に発表した論文では関連の方向性が”逆転”する例はでてきません。彼が1951年の論文の中で使った例は以下のようなもの。トランプのカードが合計52枚あるとします(ジョーカー抜き)。トランプには赤色(ハートとダイヤ)と黒色(スペードとクローバー)が半々、26枚ずつあります。K)は赤黒6枚ずつ、合計12枚あります。一度でもトランプで遊んだことがある人にとっては当たり前の事実です。当然ですが、カードの色と柄カードの割合に関連はありません。柄カードも数字カードも半分ずつ赤色カードと黒色カードを含んでいます。Simpsonはさらに、「赤ちゃんがトランプで遊んでいていくつかのカードが汚れている」という状況を考えました。この時、「汚れあり」「汚れなし」のカード別々に注目すると、それぞれ「柄カードより数字カードのほうが赤色が多い」といえます。「柄によってカードの色の割合が異なるようにトランプが作られている」と考えていいのでしょうか?”直感的に"違うとわかります。汚れの有無別ではなく、カード全体で割合を比較するほうが正しいということです。Simpsonはさらに次のような例を出しました。ある治療をうけたか受けないかで、患者が生きることができたかできなかったか、その結果を男女別に示しています。その治療は、患者の生存に非常に影響する重要なものであると期待されているものであると仮定します。治療の効果あり!と考えたいところですが、ここでよくよくデータを見てみると実はこれ先ほどのトランプの例と全く同じ表なのです。トランプの色と柄が、それぞれ生存と治療の有無に対応しています。男女を合計した集団全体で見ると、「治療と生存率に関連なし」という結果になってしまうのです。なんとなく”直感的に”男女別の結果のほうが正しいような気がするのですが、根拠はありません。Simpsonの出した例は、「全く同じデータでも、”もっともらしい解釈”ができる分析方法はシナリオによって異なる」ことを伝えています。interpretationと呼んでいます。トランプの例ではグループ分けしないほうがいいし、治療の例では男女別したほうがよさそうです。Interpretationは直感に基づいて判断するものだとしています。この論文が書かれた時代はまだ交絡だとか、因果推論に関する考え方が広まっていない時代なので仕方がありません。統計的因果推論に対する考え方が深まった現代、このオリジナル版シンプソンのパラドックスは直感ではなくDAGのルールにのっとり、条件付けをすべきかどうか判断できます。DAGルールは以下の記事をどうぞ。トランプの例では、赤ちゃんが数字カードよりも柄カードを好んで遊んでいた、黒色カードよりも赤色カードを好んで遊んでいたと考えられます。汚れは、カードの柄・色によって決められる共通効果(Collider)として考えられます。この場合、Cを条件づけると選択バイアスを引き起こしてAとYの間に因果関係が存在しなくても(A→Yの矢印がないことに注意)関連が生じることになります。逆に治療の例では、男性のほうが(面倒くさがるなどして)治療を受けにくく、しかし一般的に男性のほうが生存率が高いとしましょう。cause)として機能しています。このような状況では、男女合わせた分析(Cを条件付けない)は性別による交絡バイアスをもたらします。男女別の解析が必要になります。ここで重要なのは、1全く同じデータでも、Cが共通効果なのか共通原因で必要な分析方法が全く異なるということ2Cが共通効果なのか共通原因なのかは、データ単独では判断できない。注目している要因間の関係性を考える(DAGを書く)必要あり。言い換えると、データから得られる関連に因果的な解釈をしたい場合、どのような分析が適切かをデータドリブンで決めることはできない。したがってシンプソンのパラドックスは単なる交絡の問題というよりは、統計的因果推論の根本的な難しさを教えてくれる良い例だと思います。Hernan教授が書いた以下の論文と以下のHernan氏のツイートにも綺麗にまとまってあります。2017機械学習・AI研究ブームですが、コンピューターにデータを与えてぽちっとやれば因果関係がわかるという世界は(少なくとも現時点では)非現実的です。Scientistである彼がなぜ因果推論に興味を持ち、どう分野を発展させてきたのかが書かれてあります。シンプソンのパラドックスについても一章まるごとかけて(Pearl流の)解説をしています。615-625.(選択バイアスのDAGによる整理)http://journals.lww.com/epidem/Abstract/2004/09000/A_Structural_Approach_to_Selection_Bias.20.aspxHernanによるDAGの無料オンラインコース*1:ここでは産まれた時に生物学的に決められる性別のことを指すと仮定します。06:48データ分析の不思議、シンプソンのパラドックスを統計的因果推論から考える関連記事2018-12-28回帰分析を使った因果推論の仮定:パラメトリックモデルを使うということお久しぶりです。Analysis)入門1...お久しぶりです。(3)スターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。