superiスマートフォン用の表示で見るsuperi主にキャリアと金融を嗜むメディアキャリアライフスタイルお金テクノロジー2017-03-20XGBoostで予測モデル作成テクノロジースポンサーリンク前回まででXGBoostのインストールが終わりました。www.superi.jpここからは実際にXGBoostによる予測モデルを作成していきます。必要なライブラリのimport以下で事足ります。これはPimaインディアンが糖尿病にかかったかどうかを表すデータで、1~8が患者の属性や検査値を表し、9が糖尿病かどうかバイナリで表されており、9を2クラスに分類する予測モデルを作成することになります。1)データの取得は以下でできます。引数には分類アルゴリズムと特徴量と予測ラベルが入ります。Validationで訓練用とテスト用にデータを分割し、次いでモデルにfitさせ予測しています。結果はprecision、recall、Accuracy、AURocに加え、特徴量の重要度を出力させています。Importances")print(feat_imp)4.パラメータまずXGBoostではXGBClassifierとXGBRegressorが選べますが、分類問題なので、XGBClassifierを使用します。パラメータの値ですが、公式によると重要なのは、max_depthを、min_child_weight、次いでgammaみたいです。経験的にですが、パラメータをいじってもそれほど精度は変わらない印象です。max_depthをいじると良くて0.02くらいかわるかなーって感じなので、一旦適当でいいです(別途グリッドサーチします)。objectiveは分類問題なので、'binary:logistic'にしてください。以下のような結果が取得できます。各精度指標に加えて変数の重要度を取得できます。個人的な経験則ですが、XGBoostの精度はロジスティック回帰とくらべて若干いいくらいの結果です。パラメータのチューニングに手間がかかること、計算がロジスティック回帰より遅いことを考えると、ロジスティック回帰でよくね??って思わなくもないですが、手間暇おしまずその若干の精度が必要な際には利用したいと思います。次回はハイパーパラメータのチューニングを行いたいと思います。関連記事2019-04-20【FX】仲値時間にかけて円安になるのか、売買のタイミングを調整して検証してみた前回、仲値時間にかけて円安になるのか検証してみました。www....2019-04-01【FX】仲値時間にかけて円安になるのか、今度は5分足で検証してみたFXのアノマリーに、仲値時間にかけて円安になるというものがあ...2018-09-10石原さとみがどのポケモンに似てるか深層学習してみるよっ、でぃーぷらーにんぐー、したかったのが今回の趣旨です、、2017-03-26XGBoostのハイパーパラメータをチューニングする前回、XGBoostで予測モデルを作成しました。読者になる@superi56566561をフォローお問い合わせお問い合わせはこちらからスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。