2020はじめに前回のブログ「データの同期速度(2)NFS+スモールファイル」では小さなファイルが大量に存在する環境でのデータ同期速度を測定しました。今回はラージファイルのテスト結果をご紹介していきます。NFS+ラージファイルのテストパターンNFS+ラージファイル(1.08TiB、11604ファイル、1542ディレクトリ)に対して、以下のパターンでテストを実施しました。Sync)(1)はrsyncサーバ1台でSASディスク上のラージファイルをAFF8080に同期しました。Utilは20-50%と低く、並列度を上げてコピーすればまだ性能が出ると判断し、(2)を実施しました。(2)はrsyncサーバ2台で1つのSASディスクシェルフ(19D+2P)のデータをAFF8080に同期しました。exportのため、ソースデータの容量が半分ずつになるように2台のrsyncサーバで分担しています。rsyncサーバAがディレクトリ1-3、rsyncサーバBがディレクトリ4-9というような指定を行い、ほぼ同じ容量を転送するようにしたときの2台分の性能が上記グラフです。Utilはまだ50-75%で、更に並列度を上げれば性能が出ると予想されました。ディレクトリ単位で容量を洗い出して均等に3つに分散させる作業が非常に煩雑なことと、他のツールでは性能が出ることが予想できたため、3並列以上は実施しませんでした。実行コマンドは以下の通りです。--progress(3)はrsyncサーバ1台でSSDディスクのデータを転送しています。(1)と比べて60%以上早くなりましたが、SASからSSDに変わってディスクの遅延が少なくなったことで高速になったと考えられます。この時点でまだインフラ側にボトルネックは見当たりませんでした。Syncのデータブローカー1台構成です。Utilは常時100%になっていました。この時のFAS8040とデータブローカーサーバの負荷は以下の通りです。utilが常時100%のため、SASディスクのネックが大きいと判断して(5)のSSDディスクのパターンを試しました。(5)は(4)とディスクタイプだけが異なります。SSDへの変更で30%程度の性能向上がありましたが、(4)のテストの時点でサーバの負荷が高かったことから性能向上の幅は限定的でした。そのため(6)以降でデータブローカーを追加しています。(6)はデータブローカー2台、(7)は3台構成にしましたが、段階的に性能が向上しています。性能だけでなく操作面でもrsyncの時のようにディレクトリ指定を分配しなくてよいのが非常に便利でした。ブローカー3台構成ではFAS8040から1000MiB/s近い性能で読み出しており、そろそろストレージ側のNIC帯域を気にする必要があります。ちなみに今回は最大性能を計測する検証ではないので、データブローカー4台構成は実施しませんでした。全体的にまだ余裕があります。utilは一桁でした。AFF8080側もまだ余裕があります。(XCP)ここからはXCPの性能ですが、比較用に(4)、(5)、(7)のテストパターンのグラフを併記しています。XCPの実行パラメータはデフォルトのままで、--parallelは指定していません。(8)はSASディスクにXCPを実行したときの値です。(4)と同じデータソースで同じ仮想サーバを使っていますが、60%以上高速です。(9)はXCPでソースをSSDに変更した際の値です。この性能に達すると、ストレージのNICがうまくロードバランスされているかどうかを気にしなければなりません。ちなみにソース側のFAS8040で以下のコマンドで物理ポート単位でのNICの流量を確認しましたが、実は1つのNICに片寄って通信を行っていました。0ここにはパケット数が表示されるため、流量はMTUサイズを掛け算すると算出できます。Out”だけがカウントされていて、それ以外は使われていませんでした。2ポートに対してロードバランスされており、ボトルネックの解消にはFAS8040のNICロードバランス方式の変更が必要でした。ONTAPでは以下のNIC設定を変更することで調整可能です。balancing」にすることで物理NICを分散利用することが確認できましたが、今回は10Gbpsまで性能が出れば十分と判断し、定量的なデータは取得していません。(10)は複数のデータソースを使って、以下の構成でデータを同期しました。FAS8040コントローラBのSSDアグリゲートからREADどちらも書き込み先はAFF8080の1つのコントローラに片寄せしているため、AFF8080側のボトルネックが見えてきます。CP_Ph)列を削除)FAS8040のコントローラ性能(コントローラA)FAS8040のコントローラ性能(コントローラB)このときのXCPサーバの負荷状況は以下の通りです。(この状態のXCPサーバが2台あります。SyncやXCPを使えば高速にデータ転送ができることがわかりました。SAS」の性能であれば、100TBのデータを約43時間でデータ同期できてしまいます。複数のボリュームを並列実行すればさらに多くのデータを同期できるので、NFS環境においてはストレージ機能を使わずに上抜きで新機種にデータ移行することも検討の余地があるかと思います。7-modeからONTAP9.7への移行等)もちろん、他社ストレージからNetAppへの移行にもご活用ください。XCPは物理サーバ1台で30Gbps以上の性能を出すことができます。詳細は弊社Youtube動画や技術レポートがあるので英語となりますがリンクを記載します。今後はSMBのデータ同期と、クラウドへのデータ同期速度について記載していく予定です。インターネットVPN経由のクラウドへのデータ同期もし案件が見えていて特定の条件下での性能を知りたい方は、優先的にテストするので以下までご連絡ください。問い合わせ先:https://www.netapp.com/ja/company/contact-us/ネットアップハイブリッド・マルチクラウドラボの宣伝ネットアップ合同会社では、どなたでもご利用いただけるハイブリッド・マルチクラウドラボをご用意しています。他社製品の機材持ち込みやデータ移行検証、ソリューションの組み合わせ検証が可能で、クラウドへのデータ移行テストを行いたい方には10Gbpsの高速なクラウド接続回線(Equinixデータセンター経由)もご利用いただく事が出来ます。スケジュールの立案この環境を使ってみたい方、案件で活用したい方がいれば以下まで問い合わせください。reservedこのサイトについて。