YakstYakstは、海外の役立つブログ記事などを人力で翻訳して公開するプロジェクトです。5.6からの機能であるGTIDを、Facebookの環境に適用した際の流れと主な不具合、そしてそれらの修正点について、Facebookのエンジニアによるまとめ。5.6の新機能の中でも最も使わずにはいられない機能の一つだ。このおかげで、フェイルオーバやポイントインタイムリカバリ、階層を持ったレプリケーションなどに非常に有益だし、クラッシュセーフなマルチスレッドレプリケーションの必須条件にもなっている。この数ヶ月で、我々はFacebookの全ての本番用MySQLインスタンスで、GTIDを有効にした。その中で、この機能の適用方法や操作について、たくさんの知見が得られた。たくさんのサーバサイドの修正事項については、WebScaleSQLを通じてソースを公開していくつもりで、他のスケールのコミュニティもそこから学ぶことができ、利益を得られるだろうと信じている。伝統的なMySQLレプリケーションは、相対座標に基づいていた。各スレーブはマスタの現在のバイナリログファイルのポジションを追いかけているだけだった。GTIDは、各トランザクションに一意な識別子を割り当てることでこの仕組みを拡張してあり、それによって各MySQLサーバはどのトランザクションが既に実行済みかを追跡するのだ。この仕組みのおかげで「自動ポジショニング」の機能が使えるようになった。MASTER文でbinlogファイル名やポジションを指定する必要がなくなったのだ。自動ポジショニングは、フェイルオーバをよりシンプルに、高速に、間違いが起きにくくする。Availability)のような外部ツールを必要とせずに、マスタ障害後にスレーブを同期するのを簡単なことにしてしまう。事前に計画済みのマスタの昇格も、ポジションを合わせるために全スレーブを停止することなしにできるようになったので、簡単になった。データベース管理者は、間違ったポジションを手動で指定してしまう可能性を心配する必要もなくなった。人為的ミスがあった時ですら、サーバは実行済みのトランザクションを無視してくれるほど賢くなったのだ。階層構造の異なるマスタにスレーブを向けるようにする時、多段レプリケーション(スレーブのスレーブ)を含む複雑なトポロジも、GTIDで非常にシンプルに扱える。GTIDが有効なバイナリログのストリームをどのレプリカセットからも取得でき、また相対的なポジションを必要とせずにバイナリログをリプレイできるので、GTIDによってバイナリログのバックアップとリカバリも簡単になった。GTIDを準同期レプリケーションと組み合わせることで、クラッシュしたマスタをスレーブとして安全にリカバリするのを自動的に行うよう実装した。マスタがクラッシュすると、これを検知して30秒以内にデータ損失なしでスレーブを昇格できる。その後、オリジナルのマスタがリカバリ可能で、自動化の仕組みによってデータの一貫性を確認できたら、オリジナルのマスタを入れ替えるのにデータのコピーをしなければならなかったところを、GTIDによって自動的に新マスタを向けるようにできるのだ。5.6のGTIDを、既に運用している大規模環境に適用するのは、非常に難しい。gtid_modeはダイナミック変数ではないし、マスタとスレーブでその設定を合わせなくてはならないのだ。MySQLのドキュメントに書かれているオフィシャルなデプロイ計画では、マスタをread_onlyにし、レプリカセット内の全MySQLインスタンスを同じポジションにした状態で同時に停止し、my.cnfのgtid_mode変数を有効にして、全サーバを起動するというものだ。このようなプロセスは、高可用性の考え方とそもそも相容れないもので、大規模な本番環境では実行不可能なものだ。我々はこの問題を回避するために、fb-mysqlに、gtid_modeがマスタとスレーブで一致していなければならない制約を緩和するよう手を入れた。gtid_mode=OFFのマスタがgtid_mode=ONのスレーブを許可するようにし、read_only=ONのサーバ(つまりスレーブ)ではトランザクションに対するGTIDの割り当てを抑制するようにしたのだ。これにより、各レプリカセットに対して、以下のような高可用性を保ったデプロイ戦略が取れるようになった。各スレーブ1台ずつ、gtid_modeを有効にするためにMySQLを再起動する。その後、全てのスレーブがgtid_mode=ONの状態になる。この時点ではまだマスタはgtid_mode=OFFのままだ。通常のマスタ昇格を行う。スレーブの向き先を変更し、オリジナルのマスタを新マスタに向ける。オリジナルのマスタを起動した時はレプリケーション開始に失敗するが、これはgtid_mode=OFFだからである。オリジナルのマスタを、gtid_modeを有効にするために再起動する。これで新しいマスタからのレプリケーションが可能になり、全スレーブがgtid_mode=ONになる。十分な予防措置と検証のロジックによって、多数のレプリカセットへのこのプロセスの展開も安全に実行できるようになった。デプロイプロセスのピーク時は、この展開スクリプトを数百のレプリカセットに同時に実行していた。fb-mysqlへの変更点GTIDをデプロイし、本番環境でそれが動作するようにするため、MySQLとその自動化の仕組みに厖大な変更を加える必要があった。デプロイ方法の変更はさておき、最初のテストの間にも、GTIDの深刻なバグやパフォーマンス劣化に遭遇した。いくつかのケースでは、新しい自動ポジショニングのプロトコルでスレーブが接続してくると、MySQLサーバが全バイナリログをスキャンしてしまったり、クラッシュリカバリの間にGTID_PURGEDやGTID_EXECUTEDといったグローバル変数が初期化されたりした。バイナリログを開くと、その先頭にあるprevious_gtid_eventsを読み込む必要があるのだ。fb-mysqlでは、各バイナリログファイル名に対応したprevious_gtid_eventsをバイナリログインデックスファイルが持つようにフォーマットを変えることで、この問題を修正した。fb-mysqlでは、いちいちバイナリログを直接開くのではなく、バイナリログインデックスファイルに書かれたprevious_gtid_eventsを読みだすわけだ。これでパフォーマンスが改善された。1)でGTIDを有効にしたスレーブは、クラッシュセーフではないことにも気づいてしまった。完全に信頼性を持たせた設定では、シングルスレッドのレプリケーションにおいては、バイナリログとInnoDBトランザクションログをトランザクション後すぐにディスクに書き込まなくてはならないが、これはスレーブのログ適用パフォーマンスにネガティブな影響を与えてしまう。フェイスブックの規模においては、操作上のオーバヘッドを避けるため、クラッシュセーフであるためのあらゆる機能は、重要な意味を持つ。従ってfb-mysqlでは、GTID情報を一貫性を持った状態で保存するために、新しいトランザクションテーブル(mysql.slave_gtid_info)を追加するよう修正することに決めた。GTIDは、多くのレプリケーションの複雑さを簡単にしてくれる強力な機能でもある。1)でのクラッシュセーフレプリケーションには必須でもある。fb-mysqlでは、relay_log_recovery=1をGTIDが有効なマルチスレッドスレーブでも使えるようにした。これにより、マルチスレッドスレーブがクラッシュした時にできる実行済みトランザクションのずれが、GTIDの自動ポジショニングで自動的に修正されるようになった。準備GTIDのデプロイを始めるにあたっては、その前にいくつかのステップを踏む必要があった。そのうちの大きなステップが、全ての自動化の仕組みでGTIDと自動ポジショニングを使うようにアップデートしたことだ。自動ポジショニングを使わずにgtid_modeを有効にするのは、クラッシュセーフなスレーブを使うのに有害でしかないので、これらを同時に展開するのは重要なことになる。工数がかかった変更は、GTIDが既に有効なのか、あるいは今回初めて有効にするかを切り替える仕組みをマスタ昇格のロジックに組み込んだことだ。1つ重要な前提条件は、GTID互換でない文が実行されないようにすることだ。MySQLにはenforce_gtid_consistencyというオプションがあり、これによってGTID互換でない文はエラーを出すようになる。安全上、gtid_modeが有効な時はこのオプションも常に有効にすべきだ。GTIDを有効にする手順を開始する前に、アプリケーションを監査して、事前にこのようなクエリパターンを修正しておく必要がある。我々のような規模でこれを可能にするため、このような文用にユーザ統計カウンタを追加し、さらにMySQLのエラーログにこのような分の全情報を書きこむオプションをMySQLに追加した。これによって、数千の異なるワークロードに渡って、およそ20のこれらの文のパターンが使われていることを簡単に特定できた。最後に、必要とされるレアケースのために、文をスキップするのを手助けするようなスクリプトも書いた。長い歴史を持つsql_slave_skip_counterはgtid_modeが有効な時は使えないのだ。その代わりDBAは、gtid_next変数をいじり、空のトランザクションを挿入しなくてはならない。これは、緊急時には辛い作業だし、DBAチームがGTIDの知識を蓄積している途中ならなおさらだ。そんなわけで、このスクリプトを作っておいたのは賢明だ。2014のスライドを見てほしい。まとめフェイスブックのGTIDのデプロイは、MySQLエンジニアリングチーム、データベースオペレーションチーム、データパフォーマンスチームといった、チームを超えた共同作業だった。フェイスブック規模の環境へのGTIDのデプロイは、MySQLサーバへの大掛かりな改善や、自動化の仕組みの変更、展開のためのカスタムスクリプトといった、相当な努力が必要な作業だった。展開プロセスの初期では、GTIDサポートに関連するMySQLの数々のバグとパフォーマンス問題を明らかにし、報告し、そして修正した。それによって、現在では我々の用途においては非常に安定しており、ここ数カ月は新しい問題に直面していないことを、喜んでここに記せるのだ。これらと同じ修正点を、今後数週間でMySQLのブランチであるWebScaleSQLにも加えていくつもりなので、そこから他の人々も学び何らかの利益を得ることができるだろう。このような様々な努力はあったものの、GTIDのデプロイはかけた時間に見合うだけの価値があることが証明されたと言える。この機能によって直近の利益を得ることができるし、近い将来のより一層の自動化の改善の基礎にもなるのだ。@yakstcom_req_jaYakstYakstお問い合わせ。