いったパラメータもベイズ推論の枠組みでは、確率分布に従うと考えます。ここでは、それぞれ共役事前分布に従うことにします。具体的には、という分布に従うとします。ガウス・ウィシャート分布です(具体的な分布の式は書籍を参照ください)。ここで事前分布として共役事前分布を採用しておくと事後分布や予測分布が解析的に求めることができます。超パラメータで今回は事前に与えるものとします。ついては、それぞれのガウス分布で異なる値を与えることもできますが、簡単のため今回は全て共通の値とします。同時分布を考えると、以下のようになります。式(1)、式(2)で表される分布です。このモデルのグラフィカルモデルを下図に示します。クラスを予測する対象のデータ(テストデータ)です。このように図示しておくと有効分離の考え方を用いて、変数間の条件付き独立性がわかりやすくなり、後々式展開する際に便利です。有効分離については、以下の記事がわかりやすいと思います。確率分布である予測分布を導出します。このモデルの場合、上述のように共役事前分布を事前分布として採用しているため、事後分布および予測分布は解析的に求めることができます。ここでは、逐次的にデータが与えられるとして、オンラインで予測分布を更新していけるような式を導出します。データとして与えられるので、これらが与えられている下でのパラメータの事後分布を求めます。求めることになります。なり、こちらは解析的に求めることが難しくなります(なので、ギブスサンプリングや変分推論などの近似手法を使う)。完全に分離していることがわかります。独立であり、を求めればよいことになります。それでは、式(5)を展開してみます。式(5)の右辺について、対数をとってみると、となります。それぞれ独立に事後分布を求めればよいことになります。式(7)の中括弧の中はガウス・ウィシャート分布を事前分布として用いたガウス分布パラメータの事後分布推定の計算となります。この計算方法は件の書籍に詳しく載っているので、ここでは割愛しますが、最終的な形は以下のようになります。同様に式(6)はディリクレ分布を事前分布としてカテゴリ分布の事後分布そのものであるため、というディリクレ分布になります。