スコア関数、フィッシャー情報量について解説します。それぞれ繋がりがありますので、一つの記事にまとめました。・尤度関数$$L(\theta)=f(x;\theta)$$・対数尤度関数$$l(\theta)=logL(\theta)$$・スコア関数$$V(\theta)=\frac{\partial}{\partial\theta}l(\theta)=\frac{\partial}{\partial\theta}logL(\theta)$$となる。尤度関数は密度関数と形は同じですが、密度関数は\(\theta\)を固定した上でのxの関数であるのに対し、尤度関数はxを固定した上での\(\theta\)の関数として見ています。対数尤度関数は尤度関数に対数をとったもの、スコア関数は対数尤度関数を微分したものです。f(x;\theta)dx\)は密度関数の積分値となるため1となる。1は定数であるため、微分すると0になる。\(=0\)が得られます。スコア関数の期待値は0になります。フィッシャー情報量とは?フィッシャー情報量の定義は以下のようになります。フィッシャー情報量スコア関数を\(V(\theta)\)とすると、$$J_n(\theta)=Var[V(\theta)]$$となる\(J_n(\theta)\)をフィッシャー情報量というつまりフィッシャー情報量はスコア関数の分散です。スコア関数の期待値が0になるという性質から、\(J_n(\theta)=Var[V(\theta)]=E[V(\theta)^2]-E[V(\theta)]^2=E[V(\theta)^2]\)となります。こちらもよく使われるのでまとめておきます。コメントをキャンセルメールアドレスが公開されることはありません。