情報理論関連をぐだぐだとスマートフォン用の表示で見る情報理論関連をぐだぐだと情報理論関係を勉強中の筆者がそれっぽいことを書くブログこの広告は、90日以上更新していないブログに表示しています。上の確率分布全体のなす集合とする。常に下のように書くことができるもの*2。実数値関数なのに注意。その定義から、と書ける。自然パラメータとよばれる。したがって出てくるとしよう。得られる確率はとなっているから、モデルが指数型分布族だった場合、となっていて、これ自身なんらかの指数型分布族の元となっている。統計量だと言うことが分かる。割った、も十分統計量だ。はとルジャンドル変換の形で書けることが知られている。指数型分布族になっているモデル例これまでいろいろ書いてきたが、「こんな人工的に見えるモデル使えるのか?」と言う疑問が当然でてくると思う。じつは、指数型分布族になっているモデルは手近なところにいろいろある*3。有限の離散集合上の分布全体なんてのも指数型分布族になる。このあたりのことは、日を改めて書きたいと思う。番目のパラメータだと言うことを表す上付きの添字。*2:指数型分布族の名前のとおり指数関数を使って書き下してもよかったけれど、文字が小さくなるので、こっちの表記にした。*3:指数型分布族になっていないモデルもたくさんある。混合正規分布からなるモデル(EMアルゴリズムでよく使われる)は指数型分布族ではない。(2)はてなブログをはじめよう!bottikさんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。