インターンこんにちは、1週間のインターンでお世話になっているk_arimuraです。普段は熊本でバイクに乗ったり研究で少し機械学習をしてみたりしています。そんな中、今まで全く触れたことのないアドテクの世界をインターンを通して少しだけ覗いてみました。参加したきっかけなんとなく就活を早めに始めて色んな会社を見ようと思って、初めて就活イベントに参加したことがきっかけでした。その時に参加したのが12月に京都で開催されたサポーターズのエンジニア向け1on1面談会。supporterz.jp色々な企業とお話しさせていただいた中、自分が全く触れたことがないのに生活の中に溶け込んでいるアドテク業界にすごく興味を惹かれ、今回のインターンシップを参加させていただきました。(あとは、面談させていただいた方がバイク好きで話がめっちゃ盛り上がったのも大きかった。)1週間で何をしたのかデータ分析・機械学習の基礎とてもありがたいことに、データ分析・機械学習のテキストを用意してくださっており、初日はその流れに沿って基礎基本を叩き込みました。今まで機械学習を少し触ったことがあったのですが、データ分析の部分からしっかりと勉強したのは初めてでした。普段使わないライブラリにも触ることができ、ここまで丁寧にしていただいていいのだろうかと思いましたがとてもありがたかったです。事前にインターンシップの内容としてデータ分析とか機械学習をしようか、というお話しはいただいていたのですが、まさか生のデータを使って行えるとは思ってもいませんでした。アドテクに関する知識がなかったのでCTRって何?って状態からスタートしたのですが、その辺の話から詳しく教えていただけたので安心しました。こちらを参考にしていただければいいのですが、要は広告見た人がどれだけクリックするかってことらしいです。ビッグデータの洗礼を受けるビッグデータの洗礼を受けました。二日間くらいまるまる受けました。予測に用いたデータは数百万件程のデータでしたが、今までそこまででかいデータを扱ってこなかった私はまずその扱いで苦労しました。数万件とか数十万件であればある程度メモリがどうこうは(あまりよろしくはないが)無視しても動くことが多いですが、数百万件とかになると話が違って来ます。使い終わった変数どうするかとかそこまで普段から意識していればよかったのですが全くそんなこと意識したことなかったので何回もJupyterのカーネルが落ちました。具体的に何をしたのか現状のCTR予測では機械学習を使っているものの、すごくシンプルなモデルを使っているそうです。現在世の中に出ている機械学習方法を使ってCTR予測を行おうというのが今回メインで行った内容でした。前半1日を基礎の習得、その後二日をビッグデータの洗礼を受けて過ごしていたので実際に検証できたのは1.5日くらいでした。短期インターンの辛いところですね。1)の範囲に当てはめた回帰モデルです。今回のCTR予測問題のような押すか押さないかといった値を2値分類問題として扱う際によく用いられます。xを入力、wを重みと考えると数式で表すと、以下のように表されます。Perceptron(略称:MLP)では、入力に対して中間層、出力層を持ちます。最近流行りのディープラーニングなんかもこれを元に発展していったモデルですね。今回は期間も短く、また計算に使用できるのが手元のノートPCのみといった状況だったので、かなりシンプルなモデルで学習を行わせました。ランダムフォレストこちらは上二つの物とはかなり性質の違う、少し特殊なモデルです。決定木と呼ばれる物で、ビジネスなんかでは決定理論の分野なんかで使われたりするそうです。(Wiki調べ)ランダムフォレストとは名前の通り森です。今回は1日分のデータを用いて、その内の8割を学習に、2割をテストに使いました。比較用として3日分のデータで学習させたもの、7日分のデータで学習させたものも用意しました。以下に、各モデルの結果を示します。予測した際のROC曲線の下側部分の割合を表しており、CTR予測では大きい方が良いとされている。予測値と正解との距離を対数とった値で、小さい方が良いとされている。モデルによって予測されたLogLossを、平均から予測されたCTRのLogLossで割った値で、小さい方が良いとされている。以上の結果からランダムフォレストはCTR予測には向かないのかなーといった結果になりました。今回シンプルというか何も考えていない構造のMLPが教師データ量が増えるとともに精度を上げていたので検証の価値があるかなと思いました。(ただ、同じ期間からデータをランダムでsplitしているので過学習になっている可能性あり。短期間でしたが、ここまで技術的に苦労しながら色々身についたのは初めてな1週間でした。データサイエンスに興味があり色々やろうと思っていましたが、実際にどういった分析をしているのか、どういう情報が求められているのかが中に入って初めてわかったので、これからの方針を決められそうです。それと、アドテクの分野の事も少し触れる事ができ、常に新しい技術で更新されていく素晴らしい世界だなとすごく心を惹かれました。社員の方もとても優しく、メンターの方にも気にかけていただきアドバイスを色々といただけたので安心してチャレンジすることができました。あとお昼ご飯めっちゃ美味しかったです。趣味のバイクのことで盛り上がったり、ラーメンが好きということを伝えたらラーメンに連れていってくださったり、おかげ様で充実した1週間を過ごすことができました。18:28Tweet関連記事2019-09-20ネット広告CTR予測業務体験記データ分析コースのインターンシップに参加させていただいた大...2019-09-17インターンでCTR予測をしました初めまして、9月2日から9月6日の5日間、ファンコミュニケ...2019-08-19CTR予測と精度向上をやってみた初めまして、8月5日より5日間インターンでお世話になっている安...2018-09-07アドテクの会社でCTR予測をしてみた。Are青山のアドテク会社。アドネットワークやDSPを開発・運用。サーバを止めてみたよ。インターン:実業務体験編インターンでCTR予測をしましたSearchArchiveスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。