左辺がデータXの対数尤度なので生成モデルにおいて最大化したい値になる。呼び、対数尤度の下限となる。ここで、対数尤度を最大化する問題を変分下限を最大化する問題に置き換えるのがポイント。変分下限をできるだけ大きくしてやれば、それより大きい対数尤度も大きくなるというわけ。変分下限を最大化するには、とすればよい。Loss実はここの理解がちょっと怪しい。尤度最大化って交差エントロピーの最小化と等価で正しい?ときどき一部の論文でlossの式に尤度が書いてあってちょっと混乱する。入力画像Xを潜在空間zにマッピングしているためEncoderとみなせる。潜在空間zから元の画像XにマッピングしているためDecoderとみなせる。この式は入力画像Xを潜在空間zに落としてそこからXに戻したときの対数尤度を最大化しろという意味だと解釈できる。交差エントロピーの最小化とみなせる。数式で表すと下の部分と一致する。Divergence次はこの項。入力画像Xを潜在空間zにマッピングしているためEncoderとみなせる。