Shiftの友松@tomomatsu_yutaです。今回、ウェブ系のトップカンファレンスであるWSDM2020(ウィズダム2020)に参加してきましたので概要を報告します。開催地はNASAで有名なアメリカのヒューストンで、参加者400人弱で上位はアメリカ(235人)、中国(46人)、日本(14人)でした。コロナウイルスの影響で中国の方の欠席が多かったようです。採択率は15%(91/615)で、国別に投稿数を見るとアメリカと中国がともに全体の3割を占め2強という感じでした(日本は2%)。graphといったものが多く、”ディープラーニングで推薦エンジンでSoTAや!”なペーパーが目に付きました。SNSデータなどネットワークを使った研究も多かったように感じます。filteringといったウェブ系に特有のものもありました。最近の流れですが、機械学習モデルにおけるバイアスの問題に着目した講演や論文も目立ちました。Day初日は、企業の研究者やデータサイエンティストが発表するインダストリーデイが開催されていました。気になったセッションについて説明します。fairnessが紹介されました。USA)Airbnbの検索におけるレコメンドについての話でした。Airbnbの性質上、ユーザが選んでもホスト側がRejectする可能性があり、それを考慮したレコメンド手法。Featureを用いてそれぞれDNNを構成しているそうです。リアルタイム性やバンディットでの最適化を行なっており実環境での動作を想定して作られていました。Experiments同じく初日にA/Bテストのチュートリアルが開催されていました。A/Bテストは単純なようでクリーンに実施してうまく意思決定につなげるためには様々な工夫が必要となります。このチュートリアルでは、実際に現場でA/Bテストに携わってきた専門家によって考え方から具体的なお作法について解説されていました。資料が公開されているのでぜひ御覧ください。このチュートリアルは説明者の大半がマイクロソフト関係者でこの分野での圧倒的な存在感を再確認しました。Extraction)のチュートリアルが開催されていました。表形式のテキストからの抽出やマルチモーダル抽出について解説していました。こちらも資料が公開されているので、ぜひご覧ください。このチュートリアルでは、古典的な手法から画像を組み合わせたマルチモーダルな手法まで体系立てて細かく解説されており、日本に帰ってからも読み直したいと思いました。[wikipedia]の基調講演から始まりました。自身の膨大な研究を背景にした機械学習モデルの解釈性や安定性を軸に丁寧な議論を展開されており、データにかかわるもの必聴の講演でした。(ロイターの解説記事)をあげていました。統計学者でありながら様々なコラボレーションによりニューロンから宇宙まで幅広い分野を手掛ける姿勢はバラバシ教授との共通点を感じました。印象に残ったのは、パブリケーションを焦るなという主張でした。安定性や解釈性を確保するためには十分な時間が必要です。教授の主張はパブリケーションを焦るあまりすぐに結果に飛びついてしまう風潮に対しての批判であると感じました。sessionでは採択された論文のなかで、さらに限られたリサーチの口頭発表が行われました。Feedbackの口頭発表がありました。前二人が、本人が会場にこれなかったため、ビデオや代打発表だったので、事実上トップバッターでしたが、3ホールぶち抜きの大会場(WSDMはシングルトラック)で堂々と発表されていました。夕方からは、レセプションとポスター発表がありました。採択論文のうち多くはポスターでしか話が聞けないので貴重な機会でした。Advertisementsは、ユーザーに閉じられやすいネイティブ広告に対してペナルティを与えることで、ユーザー体験を改善する新たなオークションを提案しており興味深かったです。trendsの3つのテーマについて基調講演がありました。2017]などが紹介されました。2019]などが紹介されました。2019]などが紹介されました。Recommendationsは機械学習モデルによる推薦が引き起こすマーケティングバイアスについての問題点を、属性によって推薦されるべきものがされないといったフェアネスの観点から指摘しており、データ分析からマーケティングバイアスの存在を指摘した上で新規手法を提案していました。新手法はフェアネスの観点だけではなく、潜在的なマーケットを掘り起こす上でも有用だという主張は説得的でした。eCommerceはスマートスピーカーAlexaのデータから、本来買うべきものじゃないものが推薦されても買ってしまう人が一定数いることに着目し、関係ないもの(irrelevant)を推薦することについて研究していました。これはマーケティング・サイエンスにおける非計画購買の概念に通じるところがありますが、結果的にはirrelevantなものを推薦するのはそこまでよくないという結論でした。いった、データマイニング系の論文は数は少ないものの非常に聞いてて楽しかったです。Runner-Upが発表され、こちらのセッションでは受賞した2名の発表でした。countingこちらの研究はグラフ理論におけるクリークのカウントについて取り扱っています。大きな次元数のクリークを数えようとした場合に指数的に爆発するので困難です。この研究では新たなアルゴリズムであるPiviterを提案し、2時間以内に1億エッジを超えるソーシャルグラフのクリークをカウントすることに成功してSoTAを達成しています(以前は数日かかっていた)。エッジごとにすべてのkクリークをカウントすることができ、これまでにこのような研究はなかったようです。Learningという手法を使った推薦アルゴリズムです。Learningを使うとtop-K推薦の解釈性と拡張性が上がる点、三角不等式を用いているため、同じアイテムが好きなユーザーと、同じユーザーが好きなアイテムを一緒にクラスター化することができる点の2点で有効です。ユークリッド空間と双曲線空間の間のembeddingの歪みを最小化する式を提案しています。February)Workshops最終日は、ワークショップが並行して開催されていました。同日にニューヨークでAAAIが始まったせいか人はまばらでした。Modelingというテーマで3つの招待講演と3つの投稿論文が発表されました。Lalmasからユーザー体験にかかわるこれまでの研究について紹介がありました。Spotifyのプレイリストは、その種類によって最適化するべき指標が違うそうで、たとえば睡眠用のものはユーザーが眠りにつく(クリックも何もしなくなる)ことに最適化しているようです。ユーザーの性質によって違った推薦をすべきで、雑多なものを好むGeneralistと特定のジャンルを好むSpecialistといった分類をしているそうです。Yu教授と同様非常に丁寧にデータをみているなということでした。モバイル最適されていない文字がごちゃごちゃしたウェブサイトでは、ユーザーは理解するのに手間取るため滞在時間が長くなるが、決してユーザー体験がよいわけではないということなど、しっかりドメイン知識をもってないとできないストーリーの構成が非常にうまいと思いました。本ワークショップでは森脇も慶應義塾大学の星野崇宏教授との共同研究の論文を発表しました。広告のクリエイティブ選択時に用いる文脈付きバンディットに、広告疲れという特徴量を加えることで、より飽きていない広告クリエイティブを選択させCTRを向上させたというものです。会場からは、オンライン実験に際してもともと動いていたアルゴリズムによる影響をどう考えるかといった質問がありました。パネルディスカッションなどが1日に渡って行われました。Interface)についての講演でした。Generationの各ユニットの説明や、動画でのデモ上映があったりしました。ユーザ同士のインタラクションなどに使われているようでした。Mallがあり、各国のブランド店や飲食店、スケート場なども併設する超巨大施設でした。会場から徒歩5分ほどで昼食で何度かお世話になりました。食事は7日間滞在していたこともあり多くのテキサス名物の料理を食べることができました。Grillという店でいただきました。ステーキは肉厚でおいしかったです。ロブスターは普段日本では食べれないのでとてもいい経験でした。Texasはメキシコと隣ということもありタコスも非常に美味しかったです。Tequilaで楽しめます。Factoryは南アフリカ料理が食べれる店でシュニッツェルをいただきました。(南アフリカ料理ではないです)終わりに今回初の参加でしたが、ウェブ系の学会だけあって実際のウェブサービスの課題感に立脚した研究が多く非常に参考になりました。難しい理論というより、データの捉え方、アーキテクチャの工夫などに焦点があたっており、企業の研究者/MLエンジニアからするととっつきやすく興味がもてました。次回WSDM2021の開催地はドイツのハノーヴァーとのことです。