ensembling)とその一種と考えられるブレンディング(Blending)を紹介します。言っておいてなんですが辻褄合わせの結果をご覧ください、といったところ。bagging、boostingなどはここでは扱いません。とるスタッキングメタアンサンブリングとも呼ばれる。それぞれ学習器から得られた予測値を「n次元メタ特徴」とし、それらを用いて分類/回帰を任意の回数だけしていく。3次は見たことがないので効果が得られないのだろう。ブレンディングブレンディングというのはNetfixコンペの優勝者によって提唱された言葉。ブレンディングはスタッキングの一種と考えられる。これはスタッキングに極めて近いが僅かに異なり、情報欠如のリスクが少ない。ブレンディングを互換的に用いる。キングよりもブレンディングのほうがテスト性能が良いこともあれば逆もまた然りということ?以下にアルゴリズムを示す。単純にトレーニングセットを分ける。多くのモデルで学習を行いバリデーションをそれぞれ行う。任意のアルゴリズムで性能が最大になるものを見つけ出す。(ここで汎化性能を目指してもいいかもしれないが単純な手法なので単純に精度を高めればいいはず。)テストデータに適用する。Stacking”というワードをちらほら見た方もいると思いますが、これは「ブレンドして積み重ねていこー」a.k.a.スタッキングかと。Generalization”そして、アイキャッチ画像で行っていることはアンサンブルで減次、減次、ブレンディングで汎化、といったところだろう。