roadrollerPAC学習とVC理論お久しぶりです、ロードローラーです。最近は7月のICMLに参加すべく勉強の日々を過ごしています。ディープラーニングをあれこれとやって知ったつもりになっていましたが、ディープラーニングは機械学習の一部でしかなく(さらに言うならニューラルネットワーク手法の1つでしかない)、まだまだ勉強することは山のようにあります。タは次の式で求められる問題点が2つあり、1つ目は思った以上に非常に大きい数値が算出されてしまうこと、2つ目は仮説集合H(≒分類モデル)が無限の場合に対応できないこと。実際問題、パラメータ数次第で分類モデルの構築方法は無限に考えられるので(だからパラメータチューニングが難しい)、仮説集合Hが有限となるシチュエーションは限られています。仮説集合Hが有限でなければ先ほどの計算式のうち|H|が∞となり、必要な訓練データ数lも∞に発散してしまいます。そこでVC次元という考えを導入して、仮説集合HではなくVC次元数dによって下記式から必要な訓練データ数にあたりをつけます。それではVC次元とは何なのか??朱鷺の杜Wikiに再登場して頂きましょう。勝手に私が要約した内容が以下です。n.ICML2017でも研究対象にパラメータ再利用の転移学習時のリスクを算出するために、PAC学習やVC次元が利用された研究があったようです。コメントをキャンセルメールアドレスが公開されることはありません。コメントデータの処理方法の詳細はこちらをご覧ください。京都の某メーカーにて機械学習・IoT・ビッグデータを扱う。