BrainPad株式会社ブレインパッドのデータ活用に関する取り組みや製品・サービス開発の裏側、社員の日常などをご紹介します。ブレインパッドの日常ブレインパッドでは毎年学生向けのインターンシップを開催しています。MLE)コース」を実施し、今回は3名がインターンシップに参加しました。その取り組みと成果をご紹介します!こんにちは、アナリティクスサービス本部AIプラクティス部の伊藤です。今回は、今年の8月末から9月にかけて実施した機械学習エンジニアコースのインターンシップの内容についてお伝えします。レコメンド(恒川さん)周遊プランニング(藤原さん)寄り道先のランキング(佐藤さん)懇親会まとめはじめに今年は「機械学習による旅行プランニング」というテーマで1か月間のインターンシップを実施しました。京都と名古屋から、3名の方がインターンシップに参加しました。3名とも大学院で情報科学や機械学習を学んでいる優秀な方々です。今回のテーマである「機械学習による旅行プランニング」は、具体的には、以下の3つのお題から構成されます。旅行サイトのユーザーに対して、その閲覧履歴や検索履歴を分析して適切な宿泊先をレコメンドする。宿泊先周辺の観光スポットを外部サイトから抽出して、それらの最適な訪問順序をプランニングする。周遊プランの観光スポット周辺で、最適な寄り道スポットをランキングして提示する。(アールトースター)のトラッキングログから抽出・加工したデータマートを使用します。宿泊先周辺の観光スポット情報は、観光サイトやグルメサイトをスクレイピングして収集した観光スポットのデータ(店舗や施設の位置座標、ジャンル、クチコミ)を使うことにしました。今年からサポート体制を充実させました。インターンシップの進行を見守るシニアメンバー(私を含む)に加えて、エンジニアリング力に自信のある若手メンバーをサポートメンバーに加えました。経験と時間を要するアクセスログの前処理(ユーザーIDの一意化、ノイズ除去)、スクレイピングデータのデータベース化(位置情報、ジャンル情報、レイティング情報)等の作業は、あらかじめサポートスタッフが行います。採用するアルゴリズムには、最先端の手法を取り込むことにしました。周遊プランニングには、組合せ最適化問題の動的な解法として深層強化学習を採用します。深層強化学習については、折しも、私を含むブレインパッド有志による書籍が8月に出版されたばかりでしたので、この書籍とその付属コードを参考にすることにしました。寄り道先のランキングは、グルメサイトのお店評価(レイティング、星の数)をベースに改良を加えることにしました。単行本(ソフトカバー)インターンの紹介と取り組みテーマ今回、インターンに応募していただいた3名には、上記3つのテーマにそれぞれ取り組んでいただきます。以下、テーマ順にインターンのメンバーを紹介します。充さんが取り組みます。恒川さんは、修士課程で医療データを用いた発病予測について研究しています。宿泊先レコメンドは、ユーザーのサイトアクセス情報から宿泊先を予測する問題であり、研究テーマとの親和性もあることから、このテーマを選びました。大悟さんが取り組みます。藤原さんは、修士課程で非線形物理学を使ったニューラルネットワークの研究を行っています。周遊プランニングで用いる深層強化学習は、周遊ルートを動的に生成しながら最適なルートを学習していくので、力学系の振る舞いと似ているところがあります。今回は、最適なプランニングとは何か、という問題設定から取り組むことにしました。嵩晟さんが取り組みます。佐藤さんは、修士課程でベイズ最適化を用いた材料研究を行っています。寄り道先ランキングでは、ベイズ統計の知識と経験を活かして、グルメサイトの評価データをもとに信頼性を考慮した評価スコアの開発を試みます。インターンシップの進め方ここでは、読者の皆さんにインターンシップの雰囲気をお伝えすべく、インターンシップの全日程を振り返ってみます。初日は、午前中に入館証の受け渡しなどの事務的な手続きやパソコンの設定などを完了して、ウェルカムランチに向かいました。ブレインパッドは東京都港区の白金台に位置しております。会社を出て5分ほども歩いた先にある、プラチナ通り沿いのアメリカンスタイルのレストランでランチコースを堪能しました。機械学習エンジニアやデータサイエンティストの若手やシニアも参加して、にぎやかな雰囲気で会話も弾みました。ちなみに、地方から参加した学生のインターンシップ期間中の滞在先ですが、例年、会社から滞在費をサポートしております。地方の学生の方にも安心してインターンシップにご参加いただけるようにバックアップしております。会社の周辺地図2日目からは、朝会を実施しました。朝10:30から1時間を割いて、インターン生各自が前日の成果やその日の取り組み内容を説明します。課題解決にあたってサポートメンバーに相談したい場合は、別途、ブレストの時間を設定してその日のうちに解決するようにしました。ブレストの様子ブレストの進行に当たっては、所定の会議時間において、何らかのアウトプットを出すことを意識して議論を進めました。ホワイトボード使って課題を書き出し、整理しながら実行可能な解決策へと着地させていきます。お昼の時間は、外で食べる以外にも、社員が利用している仕出し弁当や、フリースペースにある自販機などで済ませることもできます。午後は、引き続き課題に取り組んだり、ブレストの時間を設けて課題を整理したり、解決策を検討したりします。業務スペースに隣接して、ブレストのためのオープンスペース(テーブルとソファーが並んでいます)や会議室があり、活発に議論できる環境が用意されています。今回のインターンシップでは、サポートメンバーを巻き込んで頻繁にブレストを行い、アイデアを交換しながら課題を解決していきました。4週間の大まかなスケジュールは以下の通りです。第2週目:課題の明確化とアプローチを検討、具体的な手法にまで落とし込み2週目では、そこまでの成果を中間報告にまとめて簡単な報告会を行い、後半のアルゴリズム実装で克服すべき課題を洗い出しました。さん)インターンシップ最終日に最終報告会を開催しました。ここでは、最終報告の内容を各人のテーマごとに詳しく紹介します。宿泊先のレコメンド(恒川さん)恒川さんは、深層学習を活用したレコメンドアルゴリズムの実装に取り組みました。いう手法を用いました。ここで少し手法を説明します。ユーザーごとに商品アイテムの評価値を予測するモデルです。通常の回帰式では、評価値全体のバイアスに、ユーザごとのバイアスや商品アイテムごとのバイアスを加えた値として予測値を定義します。このような線形モデルでは、ユーザーと商品アイテムの交互作用が取り込まれません。次元)のベクトルとして表現して、これら特徴ベクトルの内積として交互作用項を定義します(以下の予測式を参照)。ユーザーまたは商品アイテムの特徴ベクトルを表します。表現を含む履歴ベクトルを表します。ユーザーを行、商品アイテムを列、購買の有無(または回数)を値とする行列データから、行列分解近似によって得られます。表現から特徴空間への埋め込み変換行列として直接に学習します。由来の項以外に、ニューラルネットワークの隠れ層による出力を合わせて予測式を定義しています(下図を参照)。旅行サイトのトラッキングデータに適用しました。この場合、商品アイテムはホテルや旅館などの宿泊先に対応します。最初に、トラッキングログを集計・加工してデータマートを作成する必要があります。ここで、問題が生じます。旅行サイトでは、ユーザーの投げた検索クエリに応じて、同じページ上に複数の宿泊先がランキング表示されます。殆んどのユーザーは、このランキング表示ページだけで用が足りてしまうため、リンク先にある宿泊先の個別ページの閲覧数が減ってしまいます。その結果、ユーザーと特定の宿泊先が共起する履歴ベクトルを作成できないことが解かりました。表現に加えて、ユーザーの検索クエリから得られる、興味を持っているであろう商品アイテム属性(エリアや金額など)を抽出して特徴量とすることにしました。目的変数は、ユーザーが実際にその宿泊先を予約したか否かの2値変数としました。なり、交互作用を変数として取り込んだロジスティック回帰と同程度のモデルが学習できました。周遊プランニング(藤原さん)藤原さんは、深層強化学習を使った周遊プランの探索アルゴリズムの実装に取り組みました。宿泊先周辺の観光スポットから制限時間内で周遊できるスポット群を抽出するとともに、それらの最適な訪問順序もプランニングします。基本的には、巡回セールスマン問題と同じですが、制限時間内で同じジャンル(レストラン、カフェ、博物館などのカテゴリ)が連続しないように周遊できるプランを生成することを目指します。Network(下図)と呼ばれる深層学習モデルとして実装します。使って次の訪問地点を指し示すデコーダ部分(図の右側)とから成り立ちます。デコーダは、その時点までの訪問履歴を考慮して次の時点の訪問先を決定するので、エージェントの行動選択の方策(policy)を担っていると言えます。強化学習の枠組みでは、方策にもとづく一連の行動選択により得られた巡回ルートが、目的に適っているかどうかを報酬としてエージェントにフィードバックすることで最適な方策を学習します。報酬として定義すればよいのですが、今回の問題設定ではそう簡単には行きません。訪問した観光スポットのクチコミ評価点の合計(満足度)を大きくする巡回路に沿って同じカテゴリの観光スポットが連続しないように選ぶ制限時間に達したら周遊を終了する(必ずしも出発地点に戻ってこなくてもよい)といった制約条件を満たす必要があります。藤原さんは、報酬定義を工夫することで、これらの制約条件を考量できるようにしました。最初の条件については、訪問した観光スポットのクチコミ評価点の合計を報酬に加えました。報酬に加えることにしました(下式)。超えると生じるペナルティ(負の報酬)として報酬に取り込まれています。観光スポット間の類似度は、下図のように観光スポットのカテゴリ付与データを行列とみなし、これを非負行列分解して得られる特徴ベクトル間のコサイン類似度として計算しました。非負値行列分解による特徴ベクトルエージェントの実装には、先に紹介した書籍の付録コードを活用して、報酬定義と終了条件を変更することで効率よく実装できました。して実装されたエージェントを、グルメサイトからスクレーピングした観光スポットデータを用いて学習しました。学習済みエージェントを使って、草津温泉を出発点とする周遊ルートを探索した結果、以下の周遊プランが得られました。温泉の順に異なるジャンルが並んでいることが確認できます。寄り道先のランキング(佐藤さん)佐藤さんは、旅先での予定変更により寄り道する場合に、適切な訪問先を抽出するロジックの開発に取り組みました。具体的には、予定していた訪問先が休業だったり、次の目的地に行くまでに空き時間が生じた場合に、制限時間内で立ち寄れる観光スポットを抽出します。満足度の高い観光スポットを抽出したいので、クチコミ評価をもとに評価スコアを計算して用いることにします。一定時間で立ち寄れるという地理的条件から、寄り道先の候補となる観光スポットを絞り込みます。これは、現在の訪問地点と次の目的地の2点からの距離の和が一定(例えば、20km)未満の圏内にある観光スポットに絞ります。近似的に直線距離で考えれば、これは現在地と次の目的地の2点を焦点とする楕円エリア内部に限定されます。ちなみに、寄り道ではなく、予定していた次の目的地が休業だった場合に代わりの訪問先を見つける問題は、現在地と次の次の目的地の間で寄り道先を見つける問題に帰着します。寄り道先選択の問題設定さて、上述のように地理的条件で絞り込まれた候補スポットから、満足度の高い寄り道先を選ぶ方法として、グルメサイトのクチコミ評価(レイティング)を用いることを考えます。レイティングの単純な平均値を使うと、クチコミ数が少ない場合、レイティングのサンプル平均値の分散が大きくなり信頼性が低くなります。そこで、クチコミ評価の分布をベイズ事後分布(下図)とみなして、その平均値と分散とから信頼性を考慮した評価スコアを定義することにしました。ベイズ事後分布あらかじめ、レイティングが小さいスポットは、満足度が低いとみなして候補から除外します。今回は、その条件としてレイティング事後分布の95%信頼区間の下限が3.0超となるスポットに限定しました。指数関数で割った値を評価スコアと定義しました(下図)。割り算して過大評価しないように修正しています。この評価スコアは、スコア上位には、信頼性が高くて評価も高いお店が並ぶのはもちろんですが、スコア下位には、信頼性は低いがある程度評価されているお店(穴場スポット)が並んでいることが確認できました。上述のアルゴリズムにしたがって、実際に寄り道先を抽出する実験を行いました。淡路島の観光を想定して、現在地を南あわじ市にある「元気の森ホール」、目的地を「淡路ファームパーク」としました。圏内において、評価スコアの高い7箇所を抽出できました。そのうち、最も短時間で寄り道できるスポットとして海鮮料理のお店が抽出できています(下図)。終了後に、インターン生をはじめ、役員やメンター、インターンに関わった社員などが集まり懇親会を実施しました。分析や実装でサポートしてくれた若手メンバーも参加して賑やかな懇親会になりました。余興として、今回実装したレコメンドアルゴリズムにより提示された旅行プランから、実際に行ってみたい旅行プランを選ぶことにしました。上述の草津温泉と淡路島の2つの旅行プランの間で意見が割れたので、最終的に塩澤取締役が選んだ草津温泉の旅行プランに決定しました。実際に、このプランで旅行してみた感想は、後日ご紹介できるかもしれません。懇親会で周遊プランを説明まとめ例年通り、インターンシップの4週間は、長いようであっという間でした。インターン生の3名にとっては、問題の具体化も含めて難しい課題でしたが、各自の得意な点を活かして面白い結果を出すことができたと思います。恒川さんは、トラッキングデータの少ない情報から、基礎集計による知見をもとに適切な特徴量を設計することができました。藤原さんは、強化学習の報酬設計に、訪問先のレーティングだけでなく訪問先ジャンルの多様性や時間制限などを取り込むことで、満足度の高い周遊ルートを探索できることを示してくれました。佐藤さんは、寄り道スポットのクチコミ数と信頼性を紐づけて、ベイズ事後分布をもとにシンプルながら効果的な指標を提案することができました。このように、MLEインターンシップでは、所与のテーマに対して、課題の具体化から、アプローチの選定、アルゴリズムの実装と検証までを一通り体験できる機会を提供しています。このインターンシップを通して機械学習エンジニアとしての働き方の一端でも体験していただければ幸いです。来年も実施する予定ですので、興味のある学生の方は、是非チャレンジしてください。ともに、営業やコンサルタントなどのビジネス職、エンジニア、データサイエンティストを積極的に採用しています。...強化学習入門の第3弾。採用ページスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。