【これなら分かる!】変分ベイズ詳解&Python実装。最尤推定/MAP推定との比較まで。インターン趣味カメラレビューアカデミック映画/ドラマお問い合わせ管理人激推しの海外旅行便利グッズ!アカデミック【これなら分かる!】変分ベイズ詳解&Python実装。最尤推定/MAP推定との比較まで。methods)の解説とPythonで実装する方法をお伝えしていこうと思います。本記事はpython実践講座シリーズの内容になります。その他の記事は,こちらの「Python入門講座/実践講座まとめ」をご覧ください。本記事の実装はPRML「パターン認識と機械学習<第10章>」に基づいています。演習問題は当サイトにて簡単に解答を載せていますので,参考にしていただければと思います。解説したページになります。...コーディングに関して未熟な部分がたくさんあると思いますので,もし何かお気づきの方は教えていただけると幸いです。誤りについてもご指摘していただけると非常に助かります。変分ベイズを用いた場合まとめ全体のコードVBの気持ち機械学習を学ばれている方であれば,VB(変分ベイズ)の意味分からなさ加減にはウンザリしたことがあると思います。私自身,学部時代にPRML(機械学習のバイブル的書籍)をパラっと見たとき,あまりの難しさから途方にくれてしまったのを覚えています。VB(変分ベイズ)では何をしたいのか,そもそも何のための手法なのかが見えなくなってしまう場合が多いと思いのではないでしょうか。ちなみに,変分ベイズは文脈によっては「変分推論」とも呼ばれます。ベイズモデリングであることを強調したい場合は「変分ベイズ」と呼ばれることが多いようです。そこで,今回は実装の前に,簡単にVBの気持ちをお伝えしてから,ザッと数学的な背景をおさらいして,最後に実装を載せていきたいと思います。一問一答形式で変分ベイズ法に関してみていきたいと思います。疑問1:何のための手法なの?現象を確率モデルで説明VBは確率モデルの潜在変数・パラメータに関する事後確率を計算するための手法です。噛み砕いていきましょう。確率モデルというのは,簡単に言えば「現象の裏側に何か適当な分布を仮定すること」です。分布を仮定するというのは,尤度関数を定めることに相当します。ほとんどのタスクでは,私たちの目標は事後分布を求めることです。ベイズの定理より,尤度関数と事前分布をかけ合わせると事後確率になります。(詳しくは「【初学者向き】ベイズ推論とは?事前分布や事後分布をド素人向けに分かりやすく解説してみます!」へ)ですので,尤度関数を仮定したところで,事前分布を定められなければ事後分布を手に入れることができないのです。変分ベイズの本領が発揮されるのは,モデルの事前分布を定められないときです。多くのベイズモデリングでは,事前分布に共役事前分布を仮定しますが,変分ベイズ法では共役事前分布を持たない,もしくは部分的な共役性をもつ確率モデルの推論を対象とします。共役事前分布とは,事後分布を計算した時に自分自身と同じになるような事前分布のことを指します。データの発生源に多項分布を仮定した場合,共役事前分布はディリクレ分布になります。詳しくは「【初学者向き】共役事前分布とは?ド素人に向けて全力で解説してみます!」へ。今回扱う「混合ガウス分布モデル」も部分的な共役性をもつモデルです。他にも,トピックモデルによく利用されるLDA(潜在的ディリクレ配分モデル)も共役事前分布をもたないため,変分ベイズの対象となります。疑問2:EMアルゴリズムとの違いは?EMアルゴリズムのMステップEMアルゴリズムや変分ベイズでは,対象とする現象に確率モデルを仮定しましたね。適当な分布を仮定したところで,その分布の形状を決定するパラメータを定めなくては,現象を確率モデルで説明することはできません。そこで,得られた情報(現象)に尤も良くフィットするようなパラメータを求める操作が「最尤推定」でした。そのための手法がEMアルゴリズムでした。(→【かゆい所に手が届く】EMアルゴリズム解説とPythonによるGMM(混合ガウス分布)への実装。)しかし,最尤推定にはいくつかの欠点があります。前提の認識として,最尤推定は「点推定」に相当します。求めたいパラメータを「1つの値」に決めつけてしまう手法です。EMアルゴリズムでは最尤解を計算しますが,平均は3.2,分散は1.3などといったように,具体的な数値で結果が出てきます。これらは,高校まで習ってきた数学の問題によく似ています。「関数$f(x)$を最大にする$x$の値を求めなさい」という問題では,$x$の値を微分か何かを利用して求めていましたね。正確性は欠けますが,これが点推定に相当します。モデル化する対象が「多峰性」の分布である場合,どうでしょうか。多峰性というのは,多くのピークを持つ性質のことを指します。この場合,点推定では片方のピークの情報を完全に捨ててしまうことになります。他にも,真の分布がなだらかな場合,点推定をしてしまうと偏った推定結果を導くことになってしまいます。(過学習)もっと,こう,曖昧さを表現できる推定方法はないのでしょうか。,$f(x)$が複数のピークを持つときに,$f(x)$を最大にするのは,$x=1.5$くらいと$x=-3.1$くらいが一番あり得そうやね。逆に,$x=0.3$くらいは$f(x)$の値を小さくしてしまいそうやで。みたいな推定ができれば嬉しくないでしょうか。ここで登場するのが,ベイズ推論です。尤度関数を最大にするパラメータを求めるのが「最尤推定」でした。ベイズ推論では,パラメータに確率分布を仮定してしまいます。ここが,変分ベイズを考える際の出発点となります。確率分布を仮定することで,曖昧さを表現できるようになるのです。EMアルゴリズムは最尤解を点推定するための手法,変分ベイズは事後確率をベイズ推定するための手法だと言えます。変分ベイズの「変分」は,変分法が由来となっています。変分法というのは,超噛み砕いて言えば,微分の変数が関数になった処理のことを指します。高校の微積分では,変数は基本的に実数でした。大学の微積分では,まずは複数の変数についての処理を学び(偏微分・重積分),その次にベクトルや行列に関する処理を学びます。進むと,変数が関数になったバージョンを学ぶことになります(変分法)。ことは,変分ベイズでは変分法が利用されているということ?その通りです。変分ベイズでは,求めたい事後分布をある関数で近似します。変分ベイズは,このような操作をベイズ推論の枠組みで行うことから,「変分」「ベイズ」と呼ばれているのです。疑問4:メリットは?上でもお伝えした通り,曖昧さを表現できるのが変分ベイズのメリットです。他にも,クラスタリングのタスクを例に考えたとき,EMアルゴリズムではクラスタ数は自分で設定しなくてはなりませんでした。変分ベイズでは,初期値は自分で設定するのですが,多少大きめの値を設定しておくことで,不要な要素が0に近づいてくれるという性質があります。このように,スパースな結果を学習してくれる機能は,関連度自動決定と呼ばれています。疑問5:デメリットは?いいことばっかりの変分ベイズと思いがちですが,実は欠点もあります。第一に,多くの場合,更新式の導出が難しいという点が挙げられます。下でも説明しますが,なかなか骨の折れる計算が多いです。他にも,真の分布を近似する手法のため,サンプリング法と比べた場合に重要な情報が抜け落ちてしまう場合があります。疑問6:なぜ近似だけで尤度が最適化されるの?手法Bの考え非常にクリティカルな質問だと思います。EMアルゴリズムでは,Eステップでは尤度を一定に保った中でKLダイバージェンスを最小化する$q$を選びました。Mステップでは,下界を最大化することで,尤度を底上げしました。このステップの繰り返しで,尤度が徐々に最大化(最適化)されていくイメージはつきやすいと思います。変分ベイズでは,EステップでもMステップでも偏微分やラグランジュの未定乗数法等を利用した最適化手法は用いられません。それでも,尤度を計算すると増加していくのです。この疑問に答えるカギは,EMアルゴリズムと変分推論の目的関数の違いです。EMアルゴリズムでは「対数尤度」が目的関数であり,二つの項に分解されました。\notag\end{eqnarray}一方,変分推論では,対数モデルエビデンス$p(\boldsymbol{X})$を目的関数として,二つの項に分解します。\notag\end{eqnarray}対数尤度は,パラメータに依存するため,パラメータの更新によって値が変わります。EMアルゴリズムではMステップに相当します。モデルエビデンスはパラメータに依存しないため,パラメータを更新したところで値は不変なのです。ここが変分ベイズを理解するための肝であり,多くの人が勘違いをしてしまうポイントになります。変分推論では,与えられたデータをよく説明できるようなパラメータとなるように,毎回の更新を行なっているのです。その結果,対数尤度は増加していくことになります。変分ベイズまずは変分ベイズの概要について確認していったうえで,後ほど混合ガウス分布の推論に適用していくという流れにしましょう。変分ベイズの説明には,大きく分けて2通りの方法があります。1つ目は,事後分布とのKLダイバージェンスを最小化するような分布(制限付き)を求めてしまうという方法(手法A)です。「ある制限」は後ほど解説します。直感的には,こちらの方法の方が分かりやすいと思います。p)$を最小化する$q$を求めるもう1つの手法は,EMアルゴリズムと同じ枠組みで,尤度関数(周辺尤度)を下界とKLダイバージェンスの2つに分解して考えていく方法(手法B)です。発想は先ほどの手法Aと同じで,KLダイバージェンスを最小化するような$q$(制限付き)を求めることです。KL(q\|p)\end{eqnarray}下界とKLダイバージェンスの定義は,以下の通りです。\}\end{eqnarray}実は,先ほどのKLダイバージェンスと,尤度関数(周辺尤度)を分解して出てきたKLダイバージェンスは同じことが分かります。p(X)$が$q$に依存しないことをふまえると,$q$に関してKLダイバージェンス$KL(q\|p)$を最小化することは,$q$に関して下界$\mathcal{L}(q)$を最大化することに相当します。手法Bでは,このようにしてKLダイバージェンスの問題を下界の問題に置き換えて考えていきます。手法Bの考えでも,なんでわざわざ下界で考えるの?そうですね。手法Aを利用しないで,手法Bを考えるメリットはどこにあるのでしょうか。上で見たように,手法Aと手法Bは本質的に同じ操作を行なっています。数学的な背景も,下でお伝えするように,ほぼ同じです。下界に注目して考えることで,最尤推定やMAP推定との関わりが一気に明らかになるのです(手法Aでもバラバラではありますが,明らかになります)。後ほど,数式で説明しますね。●下界$\mathcal{L}(q)$を最大化する$q$を求めるさて,上では説明を省いていた「ある制限」について補足を加えておきます。この制限は,変分ベイズにおいて,非常に重要な仮定の1つとなります。具体的には,「平均近似場」と呼ばれる近似手法を利用します。\prod_{i=1}^{M}q_i(\boldsymbol{Z}_i)\end{eqnarray}この式の解釈としては,事後確率$p(\boldsymbol{Z}|\boldsymbol{X})$をよく近似する$q(\boldsymbol{Z})$は,独立な分布(因子)$q_i(\boldsymbol{Z}_i)$の積で表されるという仮定を表しています。潜在変数の中に$\mu$,$\Sigma$,$\pi$が含まれているとした場合,それらのパラメータそれぞれに独立な分布を仮定するという意味です。その際,パラメータはグループに分割されますので,例えば$\mu$と$\Sigma$をまとめてある分布を仮定することも可能です。それでは,以下では2つの手法に基づきながら,変分ベイズの一般的な枠組みを説明していきたいと思います。手法A以下では,ある潜在変数orパラメータ($\boldsymbol{Z_i}$)の分布を計算していきたいと思います。計算が大変そうに見えますが,表記がややこしいだけで,行なっている操作は高校生でも分かります。5行目から6行目の変形が一番難しいと思います。期待値をとる変数以外の対象はそのまま残る(例:$E_x[3]=3$)ことの類推で考えていけばOKです。\\\end{eqnarray}ようやく,得たい式が得られました。こちらの式が,変分ベイズでは大活躍します。\rm{const}\end{eqnarray}解釈,というより,覚え方みたいな感覚としては「自分以外の潜在変数orパラメータで期待値をとる」と理解しておきましょう。手法B手法Bは,手法Aの目的関数を下界に変えるだけです。一点注意すべきなのは,手法Aでは最小化をしていましたが,手法Bでは最大化をするところです。そこで,手法Aの計算結果を利用するために,手法Bも「負の下限の最小化」と問題を置き換えてしまいましょう。することで,先ほどの結果を流用できます。負の下限は,定義から下のようになります。\\\end{eqnarray}これ,よく見ると,先ほどのKLダイバージェンスとほぼ同じ形をしているんですね。\boldsymbol{Z})$で置き換えればOKです。すると,最後のベイズの定理を利用したごちゃごちゃした変形をせずに,式(18)を得ることができます。最尤推定・MAP推定との関わり手法Aと手法B,いずれを利用しても最尤推定・MAP推定との関係性が見えてきます。思い出して欲しいのは,最尤推定とMAP推定は「点推定」であったということです。変分推論では「ベイズ推論」をしました。この三者について,簡単にまとめておきます。\frac{p(x|\theta)p(\theta)}{p(x)}\end{eqnarray}どの手法とも,観測データ$x$に最もフィットするパラメータを求めるという目的は一貫しています。最尤推定では,尤度を最大にするパラメータを点推定します。EMアルゴリズムは最尤推定を近似的に行う手法でした。MAP推定では,尤度関数に事前分布の情報を付け加える(=事後確率)ことによって,より汎化性能のある点推定を実現しようとしています。事前分布をかけあわせることは,正則化の役割を果たしています。ベイズ推論では,単にパラメータの事後分布を求めます。ここで,ベイズ推論だけ「推論」という言葉が利用されていることに気づきましたか?最尤「推定」やMAP「推定」は,何かしらの最適化手法(EMアルゴリズム等)を利用して尤もらしいパラメータの値を求めるのでした。ベイズ「推論」では,最適化手法等は用いていないことに注意が必要です。パラメータの値を求めるのではなく,パラメータの分布を求めているのです。(そのためには結局パラメータの分布を定めるパラメータを推定しなくてはならず,堂々巡りですが)さて,以下では最尤推定とMAP推定が変分ベイズの特殊な場合に相当することを示していきたいと思います。基本的な方針としては,ベイズ推論において,事後分布を無限に尖った分布(クロネッカーのデルタ関数)と仮定することで点推定(MAP推定)と捉えることができます。加えて,事前分布が無情報(平坦な分布)である場合,MAP推定は最尤推定と捉えることができます。手法A変分推論にて,事後分布を近似するために用意する分布$q(\boldsymbol{Z})$をクロネッカーのデルタ関数$\delta({\boldsymbol{Z}-\hat{\boldsymbol{Z}}})$と仮定します。このとき,手法Aでは事後分布とのKLダイバージェンスを最小化するような$\delta({\boldsymbol{Z}-\hat{\boldsymbol{Z}}})$を求めるのでした。先ほどの結果を利用するのではなく,もう少し一般的な話をしたいと思います。KLダイバージェンスの定義から数式を変形してみます。p(\hat{\boldsymbol{Z}})\end{eqnarray}式(25)から式(26)はクロネッカーのデルタ関数の性質を利用しています。f(\hat{\theta})\end{eqnarray}つまり,KLダイバージェンスを最小化する潜在変数・パラメータは以下の式で表現されます。\}\end{eqnarray}どうでしょうか。見事MAP推定の式が出てきましたね。\hat{\boldsymbol{Z}})=\delta(\boldsymbol{0})$は無限大の値をとりますが,潜在変数・パラメータ$\boldsymbol{Z}$に依存しないために除外しました。上の式で,潜在変数・パラメータ$\boldsymbol{Z}$の事前分布$p(\boldsymbol{Z})$が無情報(平坦な分布)だと仮定すると,MAP推定は最尤推定になるのでした。\}\end{eqnarray}たしかに,尤度関数だけになることが確認できましたね。手法B同様のことを手法Bで確認していきます。上でもお伝えしたように,手法Bを考えるメリットは,変分推論と最尤推定・MAP推定の関係を同時に捉えられる点にあります。下界の定義をさらに変形して,KLダイバージェンスを出現させてみましょう。p)\end{eqnarray}ここで,式(39)に注目してみましょう。この式は,下界を表しています。私たちが目指すのは,式(39)の最大化です。第1項目は,「$q$による対数尤度の期待値」を表しています。第1項目を最大化するアイディアは,対数尤度を最大化するアイディアと本質的には変わらないことがわかります。第1項目は最尤推定に相当するのです。それでは,第1項目を最大化する$q$はどのような関数でしょうか。\hat{\boldsymbol{Z}})$を考えればOKです。期待値は(確率)×(その時の値)の積分で表されましたね。分布を平均化している操作を表しています。平均化すると,かならず分布の最大値より小さくなってしまいますよね。そこで,分布の最大値のみに値を持つデルタ関数に関して期待値をとってあげれば,うまく最大値のみを抽出することができるということです。同じように,第2項目に注目してみましょう。私たちは式(39)を最大化したいのですから,第2項目は最小化を考えなくてはなりません。第2項目は,シンプルにKLダイバージェンスを表しています。手法Aで見たように,KLダイバージェンスの最小化は最尤推定をMAP推定的に正則化のペナルティを与える役割を果たします。第2項目は「MAP推定(正則化)的発想」を表現していることが分かります。下界を最大化することは,第1項目を大きくする(最尤推定の効果を大きくする)か,第2項目を小さくする(正則化の効果を大きくする)かのバランスを取っていることが分かるのです。GMM(混合ガウス分布)への適用それでは,ここからは変分ベイズを実際にGMMのパラメータ推論に適用していこうと思います。流れを確認したいと思います。【GMMへの適用の流れ】1.同時分布のグラフィカルモデル(依存関係)を確認2.平均場近似のグループ分けを仮定3.式(18)を利用して更新式を導出4.更新式を繰り返し用いることで下界を最大化するグラフィカルモデルさて,早速GMMのグラフィカルモデルを確認しましょう。\boldsymbol{\Lambda}$です。今回仮定する依存関係は,一般的によく利用されるものです。以下にグラフィカルモデルを示します。GMMのグラフィカルモデルこれを数式を用いて表すと,以下のようになります。p(\boldsymbol{\Lambda})\end{eqnarray}ここで,各分布は以下のように定めると仮定します。\nu_0)\end{eqnarray}簡単に,なぜこのような仮定を置くのかの根拠を説明しておきます。$\boldsymbol{Z}$の条件付き分布は,$z$と$\pi$の性質から自然に導かれる関係です。,$\boldsymbol{z}$はone-hot-vector(ある要素だけ1で他は0)ですので,$\boldsymbol{z}$の生成確率を$\pi$を利用して表現すれば,上のように累乗と総乗で表すことができるのです。データの条件付き確率も同様に,$\boldsymbol{z}$がone-hot-vectorであることを利用して表現できます。\boldsymbol{\pi})$が多項分布の形(n=1のカテゴリカル分布)をしており,その共役事前分布として定めているからです。\boldsymbol{\Lambda})p(\boldsymbol{\Lambda})$には,ガウスウィシャート分布を仮定しています。以下では,ここで定義した分布を使って計算していくため,定義を確認しておきましょう。具体的には,ディリクレ分布,多変量ガウス分布,ウィシャート分布の定義を知っておく必要があります。x]$)を利用することになるため,ここで一緒に確認しておきましょう。\psi(\cdot)$は以下のように定義されます。$\psi(\cdot)$はディガンマ関数と呼ばれています。\Gamma(a)\end{eqnarray}ちなみに,ガンマ関数($\Gamma(a)$)の定義は以下の通りで,階乗の一般化として捉えられます。\rm{d}t\end{eqnarray}続いて,多変量ガウス分布です。こちらは大丈夫だと思います。\boldsymbol{\mu}\end{eqnarray}最後に,ウィシャート分布です。|\boldsymbol{W}|\end{eqnarray}$\psi(\cdot)$は上で定義した通りです。,$B(\cdot)$は,以下のように定義されます。\}^{-1}\end{eqnarray}平均近似場のグループ分けさて,ここまでで「ステップ1」が終了です。続いて,平均近似場のグループ分け(ステップ2)を考えていきましょう。ここでは,潜在変数と他のパラメータは別々のグループに排反に分かれることを仮定しましょう。\boldsymbol{\Lambda}$は別々の$q$に分解されることが分かります。,「ステップ2」まで終了しました。続いて,変分ベイズ法の一般的な結果である式(18)を利用して,具体的な更新式を導きたいと思います。大変な計算が続きますが,丁寧に行間を詰めていこうと思いますので,頑張って計算していきましょう。この計算ができれば機械学習の中級者卒業らしいです。PRMLでも初読の際は飛ばしても構わないと書かれているほどなので,最初は分からなくて当然です。落ち着いて計算していきましょう。(\boldsymbol{Z})$から導出を始めます。式(18)を利用すれば,以下のように式を展開できます。\rm{const}\end{eqnarray}ただし,ごちゃごちゃしている$\rho_{nk}$は以下のように置きました。\boldsymbol{\mu}_k)]\end{eqnarray}一旦,定数項constを無視すると,以下のように変形できます。\rho_{nk}^{z_{nk}}\end{eqnarray}以下では,厳密に$q^{\ast}(\boldsymbol{Z})$を定めるために,正規化定数$A$を求めていきたいと思います。\sum_{k=1}^{K}\rho_{nk}\end{eqnarray}このように,正規化定数が求まりました。したがって,$q^{\ast}(\boldsymbol{Z})$は正確に以下のように表されます。r_{nk}^{z_{nk}}\end{eqnarray}ただし,$r_{nk}$は以下のように置きました。\rho_{nj}}\end{eqnarray}実は,この$r_{nk}$がEMアルゴリズムにおける負担率となります。その証明としては,式(75)の期待値が$r_{nk}$となることから確認できます。$z_{nk}$が1のときだけ$r_{nk}$が寄与するので期待値は$r_{nk}$になります。以下のような関係性が成り立ちます。この式は,EMアルゴリズムで定義した負担率と全く同じです。r_{nk}\end{eqnarray}さて,具体的に$r_{nk}$を計算するために,$\rho_{nk}$を求めてしまいましょう。式(64)の$\rho$の定義と事前分布の仮定から,変形をすることができます。\}\end{eqnarray}ただし,恒例ですが,ごちゃごちゃした項は以下のように置き換えました。|\boldsymbol{W}_k|\end{eqnarray}ちなみに,$\tilde{\pi}_k$や$\tilde{\Lambda}_k$は幾何平均として捉えられます。この$\rho_{nk}$を計算して$r_{nk}$を求めておくことが,変分ベイズにおけるEステップになります。最後に,ダイレクトに$r_{nk}$を更新できるような式を求めておきましょう。式(80)の定義から$\rho$を求めます。$\rho$さえ求まれば,あとは正規化するだけで負担率$r_{nk}$が計算できます。\}\end{eqnarray}さて,変分ベイズのEステップをまとめておきましょう。以下の2つの式を利用して負担率$r_{nk}$を計算する。続いて,変部ベイズのMステップです。Mステップでは,潜在変数以外のパラメータ(の分布)に関して最適化を施していきます。式(18)を利用していきます。天下り的ですが,Eステップで計算した負担率($r_{nk}$)を用いて表すことができる統計量を定義しておきましょう。これらを先に定めておくことで,煩雑な式をシンプルに書き表すことができます。\boldsymbol{\Lambda}$の対数同時分布を知る必要があります。それは,式(40)の仮定と式(43)から(45)の仮定を利用すれば分かります。\boldsymbol{\Lambda}$は式(40)の右辺の全ての項に出現していますので,全ての項について考えなくてはいけません。\\\end{eqnarray}こちらの式を利用すれば,式(18)の一般的な結果が利用できます。\boldsymbol{\Lambda}$に分けてパラメータの更新式を導出したいと思います。方針としては,式(94)のうち,最初に$\boldsymbol{\pi}$に関わる部分を抽出します。その形が実は「ディリクレ分布の対数形」となっているため,係数比較からパラメータの更新式を求めることができます。ディリクレ分布の対数形になっているのは決して偶然ではなく,共役事前分布を仮定したためです。\boldsymbol{\Lambda}$も同様に導出します。こちらは$\boldsymbol{\pi}$のように一筋縄にはいきません。後ほど説明しますが,ベイズの定理を利用して地道に計算をしていかなくてはいけません。最終的に係数比較を利用する点は変わりません。$\boldsymbol{\pi}$から計算を始めましょう。式(94)に式(43)から(45)の仮定を代入して,$\boldsymbol{\pi}$に関係する項だけを取り出します。すると,それは$q^{\ast}(\boldsymbol{\pi})$を表していますよね。\rm{const}\end{eqnarray}ちなみに,以下の定義を利用しました。E[z_{nk}]\end{eqnarray}先ほどもお伝えした通り,この形はディリクレ分布の対数をとったものになっています。const\end{eqnarray}これらの係数を比較することにより,以下のような更新式を得ることができます。N_k\end{eqnarray}これにて,とりあえず$\boldsymbol{z}$に関する更新は終了です。変分ベイズのGMMへの適用もクライマックスです。これからの計算が一番煩雑なので,少し覚悟してください。$に関係する項だけを取り出します。\}\end{eqnarray}ここで注意するべきなのは,最後の項で早とちりして$\sum_{n=1}^{N}r_{nk}=N_k$と変形してしまわないことです。,$\sum_n$の中身に$\boldsymbol{x}_n$が含まれているため,$N_k$の定義とは一致しないからです。ここは,引っかかりポイントだと思います。先に,$\boldsymbol{\mu}$に関する項を取り出します。q^{\ast}(\boldsymbol{\mu}|\boldsymbol{\Lambda})$となることが分かります。先ほどの結果を流用します。\boldsymbol{\mu}_k$の係数を取り出してみます。\boldsymbol{\mu}_k$の対数形の係数と一致していますよね。以下のような関係が成り立っています。\boldsymbol{\Lambda}_k)\end{eqnarray}先ほどと同じように係数を比較すれば,以下のような更新式を得られます。N_k\end{eqnarray}$\boldsymbol{\mu}_k$の一次の項である$\boldsymbol{\mu}_k^T$についても,同様に係数を取り出してみます。\}\end{eqnarray}例のごとく,しっかりと多変量ガウス分布の対数形と一致しています。係数を比較することで,更新式を手に入れましょう。\overline{\boldsymbol{x}}_n)\end{eqnarray}最後は,$\boldsymbol{\Lambda}$に関して係数を比較していきたいと思います。q^{\ast}(\boldsymbol{\Lambda})$は以下のように表すことができます。q^{\ast}(\boldsymbol{\mu}|\boldsymbol{\Lambda})\end{eqnarray}式(105)から式(109)を引きます。|\boldsymbol{\Lambda}_k|$だけ打ち消しあってくれます。|\boldsymbol{\Lambda}_k|$以外の項は全てトレースに突っ込んでしまいます。利用するトレースの公式は以下の通りです。\boldsymbol{x}^T]\end{eqnarray}さて,計算していきましょう。\frac{1}{2}Tr[\boldsymbol{\Lambda}\boldsymbol{W}_k^{-1}]\end{eqnarray}ここで,$\nu_k$と$\boldsymbol{W}_k^{-1}$はごちゃごちゃした項をひとつにまとめた項です。$\nu_k$と$\boldsymbol{W}_k^{-1}$のように「更新式の対象」として置けるのかというと,式(116)がウィシャート分布の対数をとった形になっているからです。式(115)から式(116)の置き換えを求めることで,$\nu_k$と$\boldsymbol{W}_k^{-1}$に関する更新式を手に入れることができます。最初に簡単な$\nu_k$の方からみていきましょう。|\boldsymbol{\Lambda}_k|$の係数に注目すれば,以下のような関係式が導かれます。N_k\end{eqnarray}さて,次は$\boldsymbol{W}_k^{-1}$に関してです。ここでは,先ほどのトレースの公式を利用します。\boldsymbol{m}_k)^T\end{eqnarray}この式を,式(89)から式(91)を使って綺麗にしていきます。その際,ポイントとなるのは,$\boldsymbol{\mu}_k$の項は打ち消されるという点です。q^{\ast}(\boldsymbol{\Lambda})$を考えていますので,$\boldsymbol{\mu}_k$は「消えるはず」なんです。そこで,以下では$\boldsymbol{\mu}_k$の項を無視して考えていきます。以下の関係式を利用します。\overline{\boldsymbol{x}}_k^T\end{eqnarray}また,式(110)と式(112)の$\beta_k$と$\boldsymbol{m}_k$の更新式も利用します。それでは,式(117)を変形していきましょう。先ほどもお伝えしましたが,$\boldsymbol{\mu}_k$を含む項を無視するのがポイントです。\boldsymbol{m}_0)^T\end{eqnarray}以上より,$\boldsymbol{W}_k^{-1}$の更新式は以下のように表されます。\boldsymbol{m}_0)^T\end{eqnarray}本当にお疲れ様でした!!以上で,全てのパラメータの更新式が手に入りました。Mステップについてまとめた後に,全体の流れをまとめていきます。★変分ベイズMステップ★Eステップで計算した負担率$r_{nk}$を利用して,各パラメータの更新式を計算する。\boldsymbol{m}_0)^T\end{eqnarray}まとめ最後に,変分ベイズのまとめです。10000個の3次元データをGMMーVB(変分ベイズによる混合ガウス分布の推論)を利用してクラスタリングする実装例をお伝えしていこうと思います。EMアルゴリズムの実装例では,クラスを定義せずにひたすら関数を定義していきましたが,今回はしっかりと「変分ベイズクラス」を定義して,オブジェクト指向の考え方に則ってコーディングしていこうと思います。sys特に珍しいものはインポートしていません。VBの計算にはディガンマ関数やガンマ関数,logsumexpが必要なので,scipyの力を借りたいと思います。np.array(l)データを読み込みます。以下ではNumpyを活用するので,Numpy.ndarrayに変換しておきます。alpha0以下では,VBGMMクラスのメソッドを定義していきます。最初に,コンストラクタとして,クラスタの個数$K$とディリクレ分布のハイパーパラメータ$\alpha_0$を定義します。self.W[k])以下では,VBGMMクラス内のインデントが必要なことに注意してください。最初に定義するメソッドは,パラメータの初期化です。Nはサンプル数,Dは各データの次元です。D=3のデータを用意しました。続いて,mは多変量ガウス分布(ガウスウィシャートの片っ方)の期待値です。標準正規分布からランダムに初期値を生成しています。betaは多変量ガウス分布の制度行列の係数です。初期値は$1$で設定します。Wとnuはどちらもウィシャート分布のパラメータです。Wは単位行列,nuは次元の数として初期値を設定します。N_kは各クラスタに属する実質的なデータ数なので,初期値は全データ数をクラスタ数で当分したものを利用します。その下には,実際にEステップで利用する最初のパラメータを更新してしまっています。することで,Eステップを実行する際に,「self.hoge」を呼び出すだけでパラメータの更新ができます。ここを定義しなくては,「alpha0」と「alpha」が一緒になってしまいます.また,MuとSigmaですが,これは混合ガウス分布の期待値と共分散行列です。どこで定義しても良いですが,初期化の時点で一旦定めてしまおうと思います。r上で導出したEステップを実装しています。ここでは,ポイントを絞って大事な点をお伝えしていこうと思います。私も引っかかったのですが,正規化は対数領域で行います。ここは非常に重要なポイントです。指数領域のままで正規化を行うと,非常に小さい値で割り算を行うことになります。なると,オーバーフローをおこしてしまう危険性があります。実際に,私もオーバーフローを起こしてしまい,1日を費やしてしまいました。一応,nanが出てきた際の例外処理も記述しておりますが,対数領域で正規化を行えば,基本的にnanが出てくることはありません。piMステップを実装しています。ここでも,ポイントを絞って大切な点をお伝えしていきます。引っかかりやすいのが次元の処理です。None]」を付けて次元を拡張しています。これは,後に行列計算を行うために,しっかりと行列の形にしておかなければならないためです。この処理を行わないと,うまく更新式が収束しません。Wの更新式は特に要注意です。Wだけ他のパラメータとは異なり,逆行列の更新式が定義されているからです。更新式に「la.inv」をとったものが,更新後のWになるので気をつけてください。0)[None,:]これは,EMアルゴリズムで用いたコードと同じです。各データ点ごとに多変量ガウス分布を計算(calc)して,それらをデータ全体に拡張(gauss)します。それを,混合係数で重み付けして返します(mix_gauss)。np.sum(logs)これも,EMアルゴリズムで用いた関数と同じです。一点,MuとSigmaはガウスウィシャートの期待値で設定しています。ここが,変分ベイズがEMアルゴリズムと大きく異なる点です。EMアルゴリズムでは,MuとSigmaが直接更新されましたね。変分ベイズでは,それらに分布を仮定したため,その分布から実際の値を取ってくる必要があるのです。どのように取ってくるかは「最大値をとる値」「中央値」等,様々考えられますが,今回は単純に期待値を採用することにしました。式(54)と式(56)です。1今まで定義してきたメソッドを駆使して,VBの実行メソドを定義します。初期化,Eステップ,Mステップ,収束判定と繰り返すことで,パラメータを更新していきます。収束判定では,「閾値」もしくは「最大更新回数」のいずれかが引っかかった場合に更新をストップするようにしています。1)Eステップで計算された負担率の最大値を見ることで,そのデータが属するクラスを判別します。model.classify(l)print(n_iter)print(log_list)さて,上で定義したクラスを利用して,modelインスタンスを生成しましょう。クラスタの個数は4,ディリクレ分布ハイパーパラメータの初期値は0.01としました。最大更新回数は100回で,閾値は0.01としました。以下のような出力が得られるはずです。-56632.86105805]EMと同じくらいの対数尤度でしっかりと収束してくれました。更新回数も10回で,EMとほぼ変わりありません。azim=45)plt.show()k=4視覚化の結果,しっかりとクラスタリング出来ていることが分かります。EMアルゴリズムとの比較実験え...?じゃあ結局VBとEMMはどちらを使えばいいの?PRML10章でも言及がある通り,変分ベイズ(VB)のほうが使うメリットが大きいということです。上でもお伝えしましたが,その理由の1つに,クラスタがスパース化されるという効力が挙げられます。EMアルゴリズムでは,多くの試行の結果から,クラスタの個数は4が適切だと判断できました。変分ベイズでは,クラスタの個数を大きめ(K=10など)に設定すれば,勝手に適切なクラスタ数にフィットしてくれるというのです。勝手にフィットしてくれる理由は,上級者向けの内容です。イメージは,周辺尤度最大化するときに,データの傾向にそぐわない基底関数は,周辺尤度を減少させる方向に寄与するからです。詳しくはPRML7.2.2章をご覧ください。不要なゴミは,勝手に小さくなってくれるのが変分ベイズの嬉しいポイントです。試しに,K=8で実験してみましょう。●最終対数尤度:-56596やはり,EMアルゴリズムでは,正しくクラスタリングされませんでした。閾値を0.01に設定した場合,100回更新しても対数尤度の変化は閾値を下回りませんでした。●最終対数尤度:-56632一方,変分ベイズを利用した場合では,正しくクラスタリングされ,更新回数も16回でできました。まとめEMアルゴリズムとの比較を通しながら,変分ベイズ法について出来るだけ噛み砕いた説明を心がけました。最尤推定やMAP推定とベイズ推論の違いを頭に置いておくことで,多くの手法をかなり高い立場から俯瞰できるようになると思います。関連度自動決定についても,興味がある方は調べてみてください。PMはじめまして,生物系の院生です!学部で数学や統計をまともにやっていないので,zukaさんのわかりやすい説明に助けられています!一点質問です!式(6)→(7)の式変形なのですが,1KL(q||p)の定義をq(Z)に関する期待値に書き直す2lnの分母分子を入れ替えて正負を逆にする,で合っていますか?EMアルゴリズムや変分ベイズで行われている,抽象的な式変形にまだ慣れていません...。図らずもコメントの通知設定がOFFになっており,ご返信が遅れてしまいました。(通常であればその日中にご返信できることがほとんどです。)ここら辺の式変形は,慣れていないと難しく感じますよね。\frac{p(x)}{q(x)}dx=E_{p(x)}[\ln\frac{p(x)}{q(x)}]$ですので,おっしゃっている「1KL(q||p)の定義をq(Z)に関する期待値に書き直す」のみでOKです。コメントをキャンセルメールアドレスが公開されることはありません。付いている欄は必須項目です過去問解説販売中!zuka京都大学で機械学習を学んでいます。iBTの出題形式が大幅変更!新テストの注意点まとめ。情報学のおすすめ参考書HOMEアカデミックプログラミング【これなら分かる!】変分ベイズ詳解&Python実装。最尤推定/MAP推定との比較まで。