ベイズ推定と最尤推定の違いを例題を用いて解説2017/07/172020/04/14ベイズ推定と最尤推定の違いを例題を用いて解説ベイズ統計ライター:古澤嘉啓TwitterFacebookこのページでは、最尤推定とベイズ推定の違い着目して、その考え方を解説していきます。具体的な計算については、『ベイズ推定量の導出!例題と解説(最尤推定量と比較)』の例題をご覧ください。最尤推定とベイズ推定はよく比較されることがあります。最尤推定量は頻度論の考え方に基づいた推定であるのに対し、ベイズ推定はベイズ論に基づいた推定です(頻度論とベイズ論の考え方の違いはこちら→『ベイズ統計学の考え方~ベイズ論と頻度論の違い~』)。ベイズ論と頻度論は、一見全く違う考え方のように思えますが、非常に重要な関連があります。これは最尤推定の考え方とベイズ統計の考え方の基礎部分が同じであるからです。今回は、こういった部分を詳しく見ていくことにしましょう。最尤推定量の定義について見ていきましょう。最尤推定量パラメータ\(\theta\)に従う分布の密度関数を\(f(x;\theta)\)とする。尤度関数を\(L(\theta;x)=f(x;\theta)\)とすると、\(L(\theta;x)\)を最大にするような推定量\(\theta=\hat{\theta}\)を\(\theta\)の最尤推定量という。(尤度関数についてはこちら→『尤度関数、スコア関数、フィッシャー情報量とは?』)ここでは細かい式の意味ついて理解する必要はありません。大切なのは、\(L(\theta;x)=f(x;\theta)\)というのが、同じ式だが違う意味であるということです。次のような関数を考えます。関数であるということです。この関数は放物線(二次関数)になります。次に、このような関数を考えます。よってこの関数は直線(一次関数)になります。この考え方を利用したのが最尤推定量になります。これを統計用語で置き換えると、通常パラメータを固定してデータを動かすことを考えますが、最尤推定はデータを固定してパラメータを動かす、ということを考えているということになります。?初めての人にもわかる解説』)実はこれがベイズ統計の考え方と一致しているのです。ベイズ統計も同様に、データを固定してパラメータを動かす、という考えに基づいて発展した理論なのです。最尤推定やベイズ推定の考え方がわかったかと思います。同じ考え方であるならば、どこに違いがあるのでしょうか?それは、最尤推定量は事前情報を使わないのに対し、ベイズ推定は事前情報を使うという点にあります。事前情報とはなんなのでしょうか。具体的に見ていくことにしましょう。例題コインが1枚ある。このコインはどうもイカサマコインらしく、表の出る確率が\(\frac{1}{2}\)ではないらしい。ここで表の出る確率を調べるために、このコインを10回投げたところ、8回表が出た。このコインの表が出る確率はいくつだろうか?この例の場合、最尤推定量は\(\frac{8}{10}=\frac{4}{5}\)となります。このコインの表が出る確率は\(\frac{4}{5}\)である、と言っているのです。これは今回この試行から得られた結果のみを利用していることに注意してください。これがつまり、事前情報を使わないという意味です。ベイズ推定量はどうなるのでしょうか。この例題に少し書き加えて見ましょう。例題コインが1枚ある。このコインはどうもイカサマコインらしく、表の出る確率が\(\frac{1}{2}\)ではないらしい。ここで表の出る確率を調べるために、このコインを10回投げたところ、8回表が出た。このコインの表が出る確率はいくつだろうか?ただし、1週間前に同じコインを投げていたことがわかっていて、そのときは10回中4回表が出ていたとする。事前情報の意味がわかったでしょうか。今回の試行より前の情報や試行結果を事前情報と呼ぶのです。この事前情報を推定に加味したのがベイズ推定量です。具体的な計算は今回の場合できませんが、\(\frac{4}{5}\)よりは低くなると考えられますよね。ベイズ推定にはそれぞれ良いところ、悪いところがあります。・事前情報が信頼できないかもしれない(上の例でいうと、1週間の間にコインに細工をしているかもしれない)我々は、これらのことを踏まえた上で、シチュエーションごとに適切な推定法を選択していくべきですね。G検定を取得するメリットを解説!最弱オセロを初めて攻略した天才オセロ高校生。TrendCOMMENTコメントを残すコメントをキャンセルメールアドレスが公開されることはありません。コメント*お名前*メールアドレス*プライバシーポリシーはこちら上に表示された文字を入力してください。