Optimization」を紹介しました2016/03/15s_akibaTweetエンジニアの秋庭です。Optimization」[1]を紹介しました。Searchとの比較を行っています。Seachと比較して、効率的にハイパーパラメータの探索を行うことができます。parameterと呼んでいます)。Searchは、格子状に値を試すので、各ハイパーパラメータについて、少数の試行しか行えません(下図参考)。下図では2次元空間の各次元に対して、3箇所の探索を行っているので、3^2=9個のハイパーパラメータについて計算を行いますが、高次元空間では計算量が爆発的に増加してしまいます。いわゆる次元の呪いです。Searchよりも効率良く探索できるのかを説明しています。Searchを利用したほうが、効率的に探索できると感じました。