俺って、おバカさんなので、とっても優秀な人工知能を作って代わりに頑張ってもらうことにしました。世界の端っこでおバカな俺が夢の達成に向けてチマチマ頑張る、そんな小さなお話です。現在はG検定に合格し、E資格取得とKaggle参画に向けて、Pythonや機械学習の勉強中です。道半ばですが、お時間がありましたら見て行ってください。コンペに参戦したので、振り返っていきたいと思います。私にとって、画像分類のコンペは初めてでしたが、E資格の課題が画像分類でしたので、その時に得た知識をフル動員して取り組みました。最終順位は参加232チーム中、10位でした。上位の方の見よう見まねで全体像の図を作ってみました。描き方とかも理解できていないので、わかりにくかったら申し訳ございません。振り返ってまいります。1.データ拡張データを読み込んで、E資格の課題のときに大活躍したデータ拡張をいろんなモデルに、それぞれの割合をハイパーパラメータとして最大になる値を探索しました。データ拡張は、HorizontalFlip,RandomContrast,RandomBrightness,Blur,Cutoutの6種類を使いました。モデルはResNet18,34,101,WideResNet50,DenseNet121,VGG11,13,16の8種類を使いました。以下は、ResNet18でのデータ拡張の割合を探索する例です。random_state=RANDOM_SEED)#データをローダーに格納する。先ほど探索した割合のデータ拡張を施した入力を使って1層目の学習を実施します。1層目の学習はStratifiedKFoldを使って、5Foldのクロスバリデーションを行いました。今回は、各Fold毎に最も精度が良くなるモデルを保存するように工夫してみました。train_labels[val_idx]#データをローダーに格納する。max_acc))3.1層目の出力(2層目の入力を作成)先ほど学習させた精度の良い各モデルの出力を2層目への入力として作成しました。train_labels[val_idx]#データをローダーに格納する。f6:pickle.dump(valid_y,f6)4.1層目の出力に係数をかけてLightGBMに入力2層目は、LightGBMを使ってみました。入力は、1層目の出力に対して、0.0~1.0の係数をかけて、精度が最大となる係数をOptunaにて探索しました。5.上記までのモデルを3パターン作って平均をとる最終的には、上記までのモデルを3パターン作って、平均したものを提出しました。最終結果としては、提出回数98回、ベストスコア:0.899、順位:10位でフィニッシュできました。E資格の課題で、画像分類を実施していたので、その時の経験をフルに活用でき、ベスト10に入れたので、非常に満足のいく結果でした。逆にいうとE資格の課題に取り組んだ際に学んだ知識しかなかったので、上位の方々の解法を参考にして、もっと精進していきたいと思います。今後もいろいろなコンペに参加して、技術を磨いていきたいと思います。合格記2019年8月31日(土)にE資格を受験して、合格しました!E資格対策として勉強の進め方や、参考書などをまとめました。これから受験される方がいらっしゃいましたらご参考まで。oregin-ai.hatenablog.com2019年3月9日(土)にG検定を受験し、見事合格できました!受験の体験記や勉強法などを別のブログにまとめました。これから受験される方がいらっしゃいましたらご参考まで。AdaBoostに挑戦してみる。選択した特徴量を使ってNNモデルの学習率をグリッドサーチする。正則化L1ノルム(Lasso)を使って特長量選択。受験の体験記や勉強法などを別のブログにまとめました。これから受験される方がいらっしゃいましたらご参考まで。検索はてなブログをはじめよう!kanriyou_h004さんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。