研究所で働くエンジニアのブログ【Python】緑本こと『データ解析のための統計モデリング入門』を実装していく【第4章】Python2019.05.25まだまだ続くみどり本。今日は第3章で作ったモデルの中から、一番良いモデルを選ぼうというお話です。目次これまで色んなモデルを作ってみたけど、結局どれを選べばよいのか?そもそもAICとはこれまで色んなモデルを作ってみたけど、結局どれを選べばよいのか?モデル選択は良い予測をするモデルを選ぶことが重要。観測データへの当てはまりの良さ(最大対数尤度)だけで選んではいけない。(これまでに登場した最大対数尤度(対数尤度関数に最尤推定値を代入したときの対数尤度の値)は、あくまでも手元の観測データへの当てはまりのよさ。依存する統計モデル)が最も良いモデルだと考えられる。(パラメータ数)色々すっ飛ばしてざっくり言いますと、AICとは「予測の悪さ」だと解釈できます。値が大きいと予測が悪く、小さいと予測が良い。(予測の良さとは何かの話をしようとすると、AICの式に潜む平均対数尤度について説明する必要があるのですが、長くなってしまうので気になる方は緑本をご参照ください。)そういうわけで、モデル選択では複数のモデルを比較してAICが最小のモデルを選ぶ。AICによるモデル選択では、良い予測をするモデルが良いモデル。あてはまりの良さの重視とは違います。ちなみに、観測データが少ないときは、真のモデルよりもパラメータ数が少ないモデルの方が、AICが小さくなる可能性があることに注意。パラメータ数の多い統計モデルは、観測データへのあてはまりが良くなりがち。それはたまたま得られたデータへのあてはまりの向上であり、その統計モデルの予測の良さを損なっている可能性が高いのです。今回はAICを使って、手元にある観測データへのあてはまりの良さではなく、予測の良さでモデルを選択しようというお話しでした。お付き合い頂き、ありがとうございました。一般化線形モデル・階層ベイズモデル・MCMC現象を数理モデルで表現・説明するのに慣れていない人のために、章ごとに異なる例題を解決していく過程を通して、統計モデルの基本となる考えかたを説明する。前半では、応用範囲のひろい統計モデルのひとつである一般化線形モデルの基礎を、後半では、実際のデータ解析に使えるように、それらをベイズ統計モデル化する方法を説明する。調べ方もよく忘れるのでここにメモしておきます。以下の一行をターミナルに打ち込むだけ。無数に存在するpytestのオプションについて、今日は最低限知っておきたい便利なものを4つを紹介します。実際に自分も色々試してみたのですが、結局よく使ってるのはこの4つぐらいなので、恐らくこれだけ知っておけば大体何とかなることでしょう...。似ているけど異なる「最尤推定量」と「最尤推定値」の違い【確率統計】ゴールデンウイークも残り僅かですね。月曜日から始めた緑本ですが、休みを捧げた甲斐もあって、8章のMCMCとベイズ化のところまでは読み終え、Pythonでの実装まで試せました。実装をブログに上げたいのですが、Jupyterで書いた数式をは...PythonPythonで設定ファイルを扱うならconfigparserが簡単で便利プログラミングをしていると、変数を特定のファイルで管理したい場面に遭遇することがあるかと思います。seleniumを使用していて、find_element_by_class_nameなどのfind_element_by_〇〇で取得した要素について、ソースのHTMLを取得したい。今日は、統計や機械学習をやっていると必ず出てくる独立性のお話です。(自然言語処理シリーズ)という本に基づいております。ここでは言語処理の話は一切出てきませんが...。コメントをキャンセルメールアドレスが公開されることはありません。*サイト次回のコメントで使用するためブラウザーに自分の名前、メールアドレス、サイトを保存する。上に表示された文字を入力してください。メーカーの研究所に入所。研究や開発に従事しており、普段はプログラミングをしたり論文を読んだりしています。ブログは趣味の学びのアウトプットです。本ブログが何かのお役に立ちましたら幸いです。研究所で働くエンジニアのブログ.。