研究所で働くエンジニアのブログ【入門】Kaggle本でデータ分析の技術を勉強する【第5章】Python2020.01.02今回は『Kaggleで勝つデータ分析の技術』の第5章、モデルの評価についてです。この章では、モデルを適切に評価するためのポイントやテクニックを学びます。Kaggleで勝つデータ分析の技術Kaggleなどのデータ分析コンペでは、実際のデータを扱うため、機械学習の解説書にはあまり載っていないような手法やテクニックが数多く活用されています。これらを理解し自身で使えるようにしておくことはコンペだけでなく、実務でのモデル構築において非常に役に立ちます。特徴量の作り方,バリデーション,パラメータチューニングなどについて,一般的な書籍ではあまり言及されない暗黙知やポイントについて記述しています。時系列データのテストデータに最も近い期間をバリデーションデータにするhold-outでは、テストデータを予測するモデルを作成する際に、最もテストデータに傾向が近いデータを学習に使えないのでもったいない→最終的にバリデーションデータも含めて再学習する方法もあるが、データを有効に使えない欠点があるので、クロスバリデーションを検討する時系列に沿ったクロスバリデーションでは、「学習データの期間を最初からとする方法」と「学習データの期間の長さを一定に揃える方法」がある→期間の決め方はデータの性質等による時間的な傾向変化が大きいようなデータのバリデーションについてあまりに過去のデータまでバリデーション対象に含めると、過去のデータに対する評価の比重が大きくなり、テストデータに対する汎化性能と乖離する恐れがあります。その辺りのバランスは試行錯誤しながら決める必要があります。一部のソースコードを手元で動かして理解を深めました。コードを眺めるだけよりも、とりあえずコピペして、挙動が気になる部分を別個で動かして確認すると理解が深まりますね。GitHub.github.comKaggleで勝つデータ分析の技術Kaggleなどのデータ分析コンペでは、実際のデータを扱うため、機械学習の解説書にはあまり載っていないような手法やテクニックが数多く活用されています。これらを理解し自身で使えるようにしておくことはコンペだけでなく、実務でのモデル構築において非常に役に立ちます。特徴量の作り方,バリデーション,パラメータチューニングなどについて,一般的な書籍ではあまり言及されない暗黙知やポイントについて記述しています。研究所で働くエンジニアのブログ関連記事Python【Python】複数のリストに含まれる要素の全通りの組み合わせを取得する、という2つのリストがあり、'a'と'd'、'a'と'e'、'b'と'd'...(以下略)のような、それぞれのリストに含まれる要素の全通りの組み合わせが欲しいときの話です。Pythonの備忘録です。for文でのリストの反復処理で、現在の要素の添字を使うことがよくあります。慣れ親しんだ技術は手放せない印象深かった雑誌記事の抜粋です。ある特定の技術に慣れ親しむと、その技術を手放せなくなる「過剰慣性」(ロックイン)と呼ばれる現象が起こります。【Python】緑本こと『データ解析のための統計モデリング入門』を実装していく【第1章】ゴールデンウイークですね。長い休暇なので、私は兼ねてより興味があった「統計モデリング」に入門しようと思います。教材はかの有名な緑本こと久保先生の『データ解析のための統計モデリング入門』。連休中には終わらなさそうですが、実...PythonPythonで設定ファイルを扱うならconfigparserが簡単で便利プログラミングをしていると、変数を特定のファイルで管理したい場面に遭遇することがあるかと思います。今回は『Kaggleで勝つデータ分析の技術』の第6章、モデルのチューニングについてです。パラメータのチューニングなどでモデルの精度を高めるテクニックを学びます。以下、第6章の備忘録(メモ、引用)と実装になります。コメントをキャンセルメールアドレスが公開されることはありません。*サイト次回のコメントで使用するためブラウザーに自分の名前、メールアドレス、サイトを保存する。上に表示された文字を入力してください。メーカーの研究所に入所。研究や開発に従事しており、普段はプログラミングをしたり論文を読んだりしています。ブログは趣味の学びのアウトプットです。本ブログが何かのお役に立ちましたら幸いです。研究所で働くエンジニアのブログ.。