特化したハイパーパラメータ自動最適化のためのモジュールです。行変更するだけで簡単に利用できます。エキスパートの経験則を自動化しコードに落とし込むことで、従来より短い時間で最適なハイパーパラメータを探索できます。記事の後半では従来手法と比較したベンチマーク結果についても紹介します。ベンチマークをとることで、従来の方法と比較して効率的に探索できることを確認しました。勾配ブースティング法の高速な実装を提供する人気のライブラリです。様々な機能が実装されており便利である反面、多くのハイパーパラメータが用意されています。決定木の葉の数や深さを制御するハイパーパラメータ、決定木ごとにサンプリングする特徴量の割合、決定木の葉に割り当てられる最小のサンプル数などなど。これらを複数回の試行なしにチューニングすることは容易ではありません。はこうしたハイパーパラメータのチューニングを手助けするフレームワークです。過去の試行結果に基づいて、効率的に最適なハイパーパラメータを探索する手助けをします。ハイパーパラメータをチューニングするとき、ナイーブに実装すると次のようになります。個のハイパーパラメータから、最適な組み合わせを探索します。この組み合わせの数は掛け算で決まるため、膨大な探索空間になります(下図)。algorithmハイパーパラメータの自動チューニングにおける大きな課題の一つは、なるべく少ない試行回数でより良い評価を得ることです。機械学習のタスクでは一回の試行に長い実行時間を必要とするため、安易に試行回数を増やすことができません。少ない試行で最大の成果を得る探索手法は様々ありますが、探索手法ではなく探索空間について考えてみましょう。ハイパーパラメータを決定していくため、この探索の組み合わせの数は足し算で決まり、探索空間を大きく狭めることができます。「重要なハイパーパラメータから順に最適なハイパーパラメータをチューニングする」という経験則をコードに落とし込み、実装したモジュールです。経験的に影響力が大きいと思われるハイパーパラメータから順次チューニングを行います。上図では簡略化されていますが、相互作用の大きいハイパーパラメータは同時にチューニングを行います。同時にチューニングを行います。実験的な機能としてリリースされました。行変更することで試すことができます。呼ばれたタイミングでハイパーパラメータのチューニングが実行されます。キーワード引数にオブジェクトを渡すことで得ることができます。ハイパーパラメータチューニングと比較して優れた性能を発揮できるのでしょうか。この質問に応えるために、ハイパーパラメータの探索手法を比較するベンチマークをとりました。ベンチマークに使ったデータセットは以下の表の通りです。使うデフォルトのサンプリングアルゴリズムです。同様に検証セットにおける評価と試行回数のトレードオフを調べることで、探索手法の優劣を比較しました。ベンチマークの結果を折れ線図にまとめたものが以下の図となります。よる検証セットでの評価値となります。デフォルトのパラメータを使った場合の結果を示しています。ヨコ軸は試行回数、タテ軸はこれまでの試行における最適な評価値です。用いており、数値が大きいほど良い結果であることを示しています。ほうが優れた結果が出せることがわかりました。他の探索方法と比較して優れた性能を発揮することが確認できました。実データを使ったチューニングにおける振る舞いを深堀りし、アルゴリズムの改善方法について考察します。ステップごとにチューニングするハイパーパラメータを選びます。チューニングするステップと続きます。これらの項目のうち、どの項目をチューニングすることが最適化において重要であったのでしょうか。変化をバイオリンプロットによって確認した結果が以下の図となります。横長であるほど評価値の変化が大きい、すなわち項目をチューニングする上で影響が大きいことがわかります。いずれかによる変化が大きく、最も影響力の大きなハイパーパラメータはデータセットによって異なるという結果が確認できます。チューニングの順番や探索回数を固定しています。影響の大きいハイパーパラメータを探索し、重点的にチューニングできるよう工夫することで、さらなる改善ができるかもしれません。効率的にハイパーパラメータをチューニングできることを紹介し、ベンチマークによって実験的にその性能を検証しました。加えて、実験結果を分析することでハイパーパラメータチューニングのどの項目が重要であるかはデータセットによって異ることを確認し、チューニングアルゴリズムのさらなる改善点について考察しました。行の変更だけで試せる点です。チューニングに慣れていないユーザーにとって、強力な助っ人となり得るのではないかと思います。検討し、更に便利にしていきたいと考えています。分散処理、専用ハードウェア、バイオインフォマティクス、ケモインフォマティクスといった幅広い分野で研究開発を行っています。