カリフォルニア大学アーバイン校(UCI)が公開している「ワインの等級を予測するための学習データサンプル」を用いたデータ分析についての記事を書きました。eurekamoments.hatenablog.com今回はその続きとして、データの分析結果に基づいて実際に等級予測を行ってみたので、その結果を紹介しようと思います。今回は、単にデータを学習させるだけではなくて、機械学習において重要とされるデータの正規化・標準化も考慮しながら行ってみました。SVC学習手法は数多くありますが、今回はPythonの機械学習ライブラリであるscikit-learnのアルゴリズムチートシートに基づいて手法を選定してみました。SVCで学習させるという事になりました。SVCによる学習については、以下の記事で詳しく説明されています。intensity(色彩強度)とProline(プロリン)という2次元の特徴量を用いれば、ワインの等級1~3を判別することが出来そうだということがわかりました。SVCによる学習と、それによる等級予測を行ってみました。学習の際には、全サンプルデータ178個をランダムで学習用データと検証用データに振り分け、全体の4割が検証用データとなるようにしました。その結果が以下になります。SVCで学習された識別線を引いたものです。見て分かる通り、識別したい等級が3つであるにもかかわらず識別線が一本しか引かれていません。その識別線が引かれている場所も明らかにおかしいですね。検証用データに対する識別精度も26%と散々な結果でした。データを正規化・標準化してみる以下の記事にて説明されているように、データに対する計算やデータ同士の比較をしやすくするために正規化・標準化は非常に重要です。今回の学習で特徴量とした色彩強度とプロリンでは取り得る値の範囲が違いすぎるので、正規化・標準化によってスケールを合わせてやらないと、上記の結果のように識別精度が低いモデルが学習されてしまうのかもしれません。webbeginner.hatenablog.comst-hakky.hatenablog.comデータを正規化・標準化するにあたり、今回は一般的な以下の2つの手法を用いて、それによる予測精度の比較をしてみました。上限、下限がない場合に使うと良い。データの分布形状がガウス分布になっていることが前提。この手法で標準化したデータの散布図は以下のようになる。Normalization最小値を0、最大値を1とする正規化手法であり、最大値と最小値が予め決まっている様な場合に有効。外れ値が存在していないことが必要。外れ値があるとそれに引っ張られて正規化が上手くいかない。データが一様分布であることが前提。これにより正規化したデータの散布図は以下のようになる。一様分布という条件があります。順番が逆な気がしますが、特徴量とする色彩強度とプロリンの数値がどのように分布するのかを確認してみました。左がプロリン、右が色彩強度ですが、どちらかと言えば両者とも正規分布に近い形状をしているようです。Normalizationで標準化した場合の方が識別精度は高くなるのかもしれません。Normalizationで標準化したデータによる学習と、それによる予測精度は以下のような結果になります。元のデータで学習した時と比べて、まずは3つの等級を識別した線がちゃんと引かれるようになりました。予測精度も86%となかなか高い結果です。0)付近で一部のデータが別の識別領域に入り込んでいることがわかります。この辺はやはり線形の識別では完全に分離するのは難しいようです。Normalizationで正規化した場合の結果は以下。これもちゃんと3つの等級を識別する線がちゃんと引かれました。Normalizationの86%を若干下回る結果となりました。両者の違いを見ると、等級2と3の間に引かれる識別線の位置に大きな違いが見られます。Normalizationの場合よりも多くなっているように見えます。ここが精度の違いに影響しているようです。SVCによる等級予測ができるようになることが分かりました。Normalizationとの間で予測精度に差が生まれることも分かりました。識別できるようになることは分かりましたが、これらの結果がどのようにして導き出されたのかは正直まったくわかっていません。パラメータのチューニングは特に行っていないし、以下の記事にもあるようにSVMを使いこなすにはまだまだ理解するべき事が沢山ありそうです。qiita.com今後は、パラメータチューニングによって結果がどう変わるのかを検証したり、SVMの中身を詳細に理解することに取り組んでみようと思います。(1)Sponsorスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。