marketplace.2018-02-26pvpool〜メルカリの商品閲覧数カウントアップの裏側〜SREチームの@cubicdaiyaです。今回はメルカリの商品閲覧数カウントアップの裏側について紹介します。メルカリの商品閲覧数メルカリでは出品されている商品の閲覧数を「出品した商品」の一覧や「いいね!した商品」の一覧画面から見ることができます。以下は「いいね!した商品」の一覧画面です。(開発版アプリの画面になります)赤い枠で囲まれている部分がそれぞれの商品の閲覧数になります。今回紹介する閲覧数のカウントアップのバックエンドはGoで開発されています。データベース上の商品閲覧数のカウントアップメルカリでは日々大量のリクエストを処理していますが、そういった中でもデータベースへのアクセスはINSERTやUPDATE等の書き込み処理よりもSELECTによる読み込み処理が圧倒的多数を占めます。Spannerを利用している箇所もあります)商品が閲覧される時に実行される処理もロギング等の処理を除けば基本的に読み込み処理のみになります。商品の閲覧数を都度インクリメントする必要があるとなると話は変わります。商品閲覧リクエストは全リクエストの中でも結構な比率を占めるので、単純にそれらすべての商品閲覧リクエストを処理する度に閲覧数をインクリメントしようとすると、データベースに非常に大きな負荷がかかってしまいます。そのため非同期処理は必須と言えます。加えて、商品閲覧数のカウントアップには以下のような性能上の要件があります。出来る限り低遅延で応答できるAPIを提供する(目安:数ミリ秒以内)出来る限りリアルタイムに閲覧数を最新の状態に反映する(目安:数秒以内)こういった事情から商品閲覧数のカウントアップの仕組みはPHPで書かれたメインのコードベースから切り離された別の内部サービスとして開発されることになりました。この仕組みは社内ではpvpoolと呼ばれています。infrastructure〜以下の図はpvpoolのおおまかなシステム構成です。nginxとGo、そしてMySQLで構成されています。pvpooldはGoのnet/httpパッケージを利用したAPIサーバで、商品IDのリスト等を含んだJSONペイロードを処理して定期的にMySQLに閲覧数のデータを反映します。pvpoolは、与えられた商品IDのリストに紐付けられた閲覧数をインクリメントするAPIと取得する2つのAPIを提供します。APIにはConsulで登録されたサービスのエンドポイントにHTTPでアクセスします。Internalspvpooldは閲覧数のカウントアップリクエストを受け取ると、受信したJSONペイロードから商品IDのリストを取り出し、各商品IDをSlotと呼ばれる複数のプロセスユニットにシャーディングします。各スロットは渡された商品IDの閲覧数をマップに集約したり、定期的にMySQLにデータをフラッシュする役割を果たします。プロセスユニットであるSlotは以下の要素から構成されています。Slot商品IDキューPVMapキーが商品ID、値が閲覧数のマップStorerSlotから商品IDを取り出してPVMapの各値をインクリメントするワーカーFlusherPVMapの各値を取り出してMySQLに反映するワーカーSlotの処理フローStorerとFlusherの実体はゴルーチンで、PVMap上のデータをやりとりをしながら協調動作します。以下はStorerとFlusherの動作イメージです。}}StorerはPVMapに商品ID毎の閲覧数を一時的にプールします。...といったような形でまとめることでMySQLへの書き込み負荷を和らげることができます。Flusherもまたタイマーを利用してPVMapのデータを一定時間毎に反映することでMySQLへの書き込み負荷を和らげる役割を果たしています。最後にメルカリの商品閲覧数カウントアップの裏側とそれを支えるpvpoolについて紹介しました。メルカリではpvpoolをはじめ、プッシュ通知配信サーバやAPIゲートウェイ等といった様々な裏側の仕組みをGoで開発しており、そのためのソフトウェアエンジニアを募集しています。興味がある方は是非ご連絡下さい。