「ラベル無しデータ」と「ラベル無しデータ+ノイズ」の2系統の差が小さくなるように学習する雰囲気が分かると思います。データセットは3つあり、ラベル付きデータが100個、ラベル無しデータが60,000個、評価用データが10,000個です。このままサンプルプロジェクトの学習を開始しただけでは、VATのありがたみは分かりません。ベンチマークをやってみますまずは、ベンチマークとしてラベル付きデータが60,000個と評価用データが10,000個で学習・評価をやってみます。使うネットワークは、VATの中で使われているこのネットワーク(実際はこれが2系統使われます)です。2つ噛ませて、能力UPを図っています。バッチ64、エポック50で学習を開始します。1時間1分で学習が完了です。精度は97.83%です。今度はラベル付きデータが60,000個から100個に減らしたら、どうなるかを見てみましょう。バッチ64、エポック100で学習を開始します。1分16秒で学習完了です。学習データがたった100個では、識別精度は70%くらいが限界の様です。いう場面で登場するのが、VATというわけです。VATを動かしてみます。と3つのデータを使います。バッチ64、エポック20で学習を開始します。1時間44分で学習完了です。!驚きました、ベンチマークのラベル付きデータが60,000個と評価用データが10,000個で学習した場合よりも、識別精度が良くなってしまいました。恐るべし、VAT!エポック数の設定で多少識別精度がばらついたとしても、VATを使うと、大量のラベル付きデータとほぼ同じ認識精度が実現できそうです。これは、素晴らしい!半教師あり学習って実践的だと思うサンプルプロジェクトに「半教師あり学習」が入っているのは知っていたのですが、今回初めて動かしてみて、その威力に驚いています。世の中には、ラベル無しデータなら大量にあるというのは、結構あるシチュエーションだと思います。ビッグデータに限らず、例えば、医療現場では、白内障を予測するための眼底画像とその予測結果のペア(ラベル付きデータ)は中々揃わないが、眼底画像のみ(ラベル無しデータ)なら沢山蓄積されているらしいです。いった場合、「半教師あり学習」を使うと、白内障を予測するニューラルネットワークが作れそうですよね。「半教師あり学習」、かなりの潜在能力を感じます。別の機会でも使ってみたくなりました。コメントをキャンセルメールアドレスが公開されることはありません。date*日本語が含まれない投稿は無視されますのでご注意ください。転移学習をやってみるRECOMMENDこちらの記事も人気です。一目惚れして、ディープラーニングを始めました。初心者の試行錯誤をブログにしています。