募集中いろいろな大学などでの研究をわかりやすく紹介したり、研究生活のこと・データ解析のことなど書いたり。SVM)とを組み合わせた半教師あり学習法こんにちは!大学教員ブロガーのねこしです。『データ解析の手順』における「5.回帰モデルもしくはクラス分類モデルを作る」についてです。実行するためのプログラムについてはこちらをご覧ください。SVM)とを組み合わせることで、SVMに基づく半教師あり学習法になるお話です。LP+SVMのプログラムを簡単に入手できます!(多クラス分類にも対応)それぞれのURLからお求めください!noteでもSPIKEでも言語が同じであれば同じものです。多クラス分類にも対応したものになっています。通常、クラス分類モデルを作るときは、目的変数Yの値が得られているデータセットのみ用いてクラス分類手法でモデルを作りますが、半教師あり学習ではYの値が得られているデータセットだけでなく、Yの値のないデータセットも一緒に使ってクラス分類モデルを構築します。一般的なYの値が得られているデータセットのみ使うのが教師あり学習、データの見える化・可視化のようにYの値がないデータセットを使うのが教師なし学習と呼ばれていることから、両方使う学習を”半”教師あり学習と言うわけです。Propagation(LP)があります。LPはすべてのサンプルの間の類似度(どれだけ似ているか)にもとづいて、Yの値のないサンプルに対し、それと類似した(似ている)Yの値がサンプルの情報から、Yの値を割り振っていく手法です。あるサンプルの付近に、クラス1のサンプルが多くあると、そのサンプルのクラスも1が割り振られます。このようにYの値のあるサンプル・ないサンプルの両方を用いてクラス分類が行われます。SVM)を使いたいのが正直なところです。SVMの詳細はこちらをご覧ください。http://univprof.com/archives/16-02-26-2888783.htmlもちろんSVMを半教師あり学習に応用した手法もありますが、最適化が難しかったりハイパーパラメータを決めるのが大変だったり、残念ながら扱いにくいのが現状です。そこで、LPとSVMを組み合わせた半教師あり学習を考えます。LPでYの値のないサンプルにYの値を割り振ってから、すべてサンプルを使ってSVMモデルを構築します。SVMと組み合わせるのがLPなのかというと、SVMでは主にガウシアンカーネルが用いられていますが、LPの類似度でも同じガウシアンが用いられていて、相性がよいためです。LPでYの値のないサンプルも有効に活用して、SVMにより高性能なモデルを構築することで、良好なクラス分類結果が得られると期待できます。LP+SVMは以下の手順で行います。)のデータとクラスの情報がない説明変数のデータとをつなげる説明変数をオートスケーリングするオートスケーリングとは各変数から平均値を引いて平均を0にし、各変数を標準偏差で割って標準偏差を1にする操作です。γのそれぞれの値でLPのクロスバリデーションを行い、正解率が最も高くなるγを選ぶLPによりクラスの情報がないサンプルにクラスを割り振るC・γのそれぞれの組み合わせでSVMのクロスバリデーションを行い、正解率が最も高くなるC・γを選ぶ最適化されたC・γの組み合わせによりSVMモデルを構築する最適化されたC・γの組み合わせにおける、目的変数の計算値と実測値との間で混同行列を計算し、最適化されたC・γの組み合わせにおける、目的変数のクロスバリデーション予測値と実測値との間で混同行列を計算するここまでお読みいただきありがとうございます。上にあるLP+SVMのプログラムもご活用ください。https://note.mu/univproftwitter:https://twitter.com/univprofblog1ぜひフォローをお願い致します。募集中!こちらへお願いします!ご案内。まとめオススメ記事セレクション。人工知能との未来における人の役割~現役のデータサイエンティストのメッセージ~集中する時間を確保するために大学教授が行っている8つのことtwitterでも発信中。データマイニングブログを勉強しながら役立つ情報を発信しています!フォローしていただけると嬉しいです。