画像の出典こんにちは。データサイエンスチームのtmtkです。k平均法と混合ガウスモデルk平均法(k-means)と混合ガウスモデルはどちらもクラスタリングアルゴリズムの一つです。下図のように、与えられたデータを教師ラベルなしで分類することができます。混合ガウスモデルでは学習モデルのパラメータに分散共分散行列が入っているため、クラスタの広がりの大小に差があるクラスタ間でもうまくクラスタリングできることが知られています。作成)k平均法と減色処理k平均法によって画像の減色処理をすることができます。具体的には、画像の各画素をRGBの3次元ベクトルだとみなして、k平均法を適用し、各クラスタの中心のRGB値にマッピングします。最初のハリネズミの写真で具体的にやってみましょう。B)の3次元空間にプロットしてみます。背景の白、ハリネズミの茶色と黒色、サンタ帽の白が表示されています。これをk平均法で3色にクラスタリングし、プロットしてみます。白、茶色、赤色の3色にクラスタリングされます。最後に、この元の色をクラスタリングされた色に変換します。最初の写真が白、茶色、赤色の3色のみで表現できました。k平均法と混合ガウスモデルによる減色処理ところで、k平均法といえば、クラスタリングアルゴリズムには混合ガウスモデルもあります。混合ガウスモデルで同じことをやるとどうなるのでしょうか。なんだかおかしいですね。境界部分がカクカクしています。JPEG圧縮の際のノイズが反映されてしまっているようです。してこのようなことが起こるのでしょうか。混合ガウスモデルで色をクラスタリングしたものをプロットしてみると、原因がわかります。k平均法によるクラスタリング結果のプロットと比べてみると、白のクラスタの広がりが非常に小さくなっていることがわかります(図の青色の丸で囲った部分)。白色が分散の非常に小さなクラスタをつくってしまっているため、JPEGの圧縮ノイズのような微小な色の変化にもクラスタリングの結果に影響してしまい、境界部分がカクカクした結果が得られてしまったのだと考えられます。このように、減色処理に混合ガウスモデルを適用すると、モデルのパラメータに分散が入っているという混合ガウスモデルの特徴が、欠点として現れてしまうことがあります。混合ガウスモデルの問題点k平均法と混合ガウスモデルの比較のために最初に出した画像を振り返ってみます。見ると、青いクラスタの右側に緑色のクラスタに属する点が一つだけあります(赤い丸で囲った部分)。これも、青色のクラスタの広がりが緑色のクラスタの広がりに比べて小さいために起こる現象で、k平均法ではおこりえない現象です。混合ガウスモデルでは、このように、「あるクラスタが別のクラスタをまたいで存在してしまう(クラスタの存在する領域が凸でなくなってしまう)」ことがあります。減色処理にクラスタリングを適用する場合、この性質は望ましくありません。いうのも、「ある色が、緑色か青色かといえば青色に近いが、青色ではなく緑色としてクラスタリングされてしまう」といったようなことは、減色処理では起こってほしくないからです。減色処理に適用するクラスタリングアルゴリズムは、混合ガウスモデルよりもk平均法のほうが適切であるといえます。まとめk平均法と混合ガウスモデルの2つの方法で減色処理をしました。クラスタの広がりの大小を表現できる混合ガウスモデルの柔軟性が、減色処理ではかえって欠点として現れてしまうことがあります。Calendartmtkデータ分析と機械学習とソフトウェア開発をしています。アルゴリズムとデータ構造が好きです。