contentPRML第6章の2つのカーネルの定義の等価性を証明するPRML機械学習kernelPRMLの6章はカーネル関数が主役の章です。この章では、2つのカーネル関数の定義があり、この2つの定義は等価であることがPRML本文中(式(6.12)の下らへん)で述べられています。証明はありませんので、この記事で2つの定義が等価であることを証明をします。\boldsymbol{\mathrm{x}}^{\prime})$をカーネル関数という、というものです。\tag{*}ここで、$\boldsymbol{\mathrm{x}}$と$\boldsymbol{\mathrm{x}}^{\prime}$はそれぞれ$D$次元の入力ベクトルとして、$\boldsymbol{\phi}$は$M$次元のベクトル関数で、入力ベクトルを特徴空間に写像する関数です。\boldsymbol{\mathrm{x}}_{m})$がカーネル関数である、というものです。これらの2つのカーネル関数の定義が等価な定義であることを示していきます。Analysis"という参考書の3章を参考にしました。以下の同値関係を示すことである。上で定義したグラム行列$K$が半正定値行列である本題の前に半正定値行列についてPRML本文でも登場するので詳しくは書きませんが、行列$A$が半正定値行列であるということは、任意のベクトル$\boldsymbol{v}$に対して、以下の性質を満たす$A$のことである。0ちなみに、半正定値行列$A$の固有値は全て非負です。上で定義したグラム行列$K$が半正定値行列であるを証明します。\boldsymbol{\mathrm{x}}_{m})=\boldsymbol{\phi}(\boldsymbol{\mathrm{x}}_{n})^{\mathrm{T}}\boldsymbol{\phi}(\boldsymbol{\mathrm{x}_{m}})となる。0$より、グラム行列$K$が半正定値行列である。上で定義したグラム行列$K$が半正定値行列であるを証明します。この証明には、任意の半正定値行列$P$は正方行列$Q$とその転置行列$Q^{\mathrm{T}}$によって、P=Q^{\mathrm{T}}Qと分解できることを使用します。(証明はこちらのページを参考にしてください。)(証明開始)この補題を利用すると、半正定値行列$K$は適当な正方行列$Q$を用いて、K=Q^{\mathrm{T}}Qと分解できる。ここで、$K$は$N×N$行列なので、$Q$も$N×N$行列である。以下の性質を満たす$M×N$の行列$P$を導入する。PQと定義したら、$K$はK=Q^{\mathrm{T}}Q=Q^{\mathrm{T}}P^{\mathrm{T}}PQ=(PQ)^{\mathrm{T}}PQ=B^{\mathrm{T}}Bと書ける。\boldsymbol{b}_{N})$とすると、$K=B^{\mathrm{T}}B$の$(n,m)$成分$K_{nm}$はK_{nm}=\boldsymbol{b}^{\mathrm{T}}_{n}\boldsymbol{b}_{m}となる。\boldsymbol{\mathrm{x}}_{m})=\boldsymbol{\phi}(\boldsymbol{\mathrm{x}}_{n})^{\mathrm{T}}\boldsymbol{\phi}(\boldsymbol{\mathrm{x}}_{m})となる。upLoginユーザーは見つかりませんでした。