いずれの道にもいずれの道にもわかれをかなしまず。(GMOPG)を皮切りに、複数の企業・団体で、情報漏洩が発覚した。(WAF)での不正リクエストの遮断および、システムを全停止してネットワーク未接続状態にあったバックアップシステムへの切替えを行ったのは、3/9夜から3/10未明とのことなので、対応は極めて迅速だったと思われるだけに、被害が出てしまったことは残念に思われる。(LAC)他の企業・団体では、概ね一週間程度で対策完了した様子である(LAC)。比較的速やかに対策が進んだのは、以下の事情があったためと思われる。S2-046)は、深刻度・重大度が大きいことに対して、対策が容易であることそもそも、Struts2では顕在化する脆弱性が多いことGMOPGが、速やかにセキュリティインシデント発生を外部に公開したことは、被害の拡大防止に大きな効果があったことだと思う。対策着手から実施までに数週間掛かってしまい、事故を起こしてしまった事例(JINS)もあったことから、いかに早急に本番適用できるかが重要であったかがわかる。脆弱性S2-045とStruts2についてこの事象S2-045は、リモートコード実行(RCE)に分類される脆弱性で、リクエストヘッダの'Content-Type'に仕込まれたコードがそのまま実行されてしまうというものだ。'Content-Length'でも同様の事象が発生することが報告された(S2-046)。(OGNL)という式言語が導入されており、インタープリタ型言語のように記述されたコードを動的に実行できて、これが脆弱性の温床になっているらしい。1.x系ほどには普及しなかった。1.x系がサポート終了(EOL)する前後の時期までに開発されたシステムでは、Strutsの名前を継承したフレームワークであったこともあり、採用されることがそれなりにあった。適切な技術・製品を選択すること結果だけ見ると、当時、Struts2を選択したことは、最良の判断ではなかったと言って良いと思う。それは結果論・後知恵であるし、Struts2に限らず、なんの製品・技術についても、そして誰しもが遭遇し得ることである。このようなことにならないように、何らかの技術・製品を採用するときには、機能要件を満たすかどうかだけではなく、「製品ドキュメンテーション・サポートは十分か」、「十分に枯れていて安定しているか」、「ユーザーグループは活発か」、「業界トレンドに沿っているか」、といった評価・判断が必要であると云える。セキュリティ・インシデント発生時に速やかに対応するための能力そして、何を選択するにしても、脆弱性は日々発見されているわけであるから、今回の、脆弱性情報の公開から最初の大規模被害が報じられるまでの時間の短さを鑑みるに、少なくともインターネットに公開されたシステムを持つ企業では、以下の能力が必要だと云える。自システムを知っていること各システムで使われている製品・バージョンを把握しておくこと各システム・各製品のサポート担当者を明確にしておくこと脆弱性情報をタイムリーに知れること当該製品の脆弱性情報をタイムリーに入手できること脆弱性情報の深刻度・優先度を正しく判断できること脆弱性情報に対して、該当するかどうかの調査・判断を迅速に行えること暫定対応策を速やかに本番適用できることコードの変更・ビルド・リリースを迅速に行えること変更後のテストを迅速に行えること最悪の場合は、システムを停止する判断を迅速に行えること速やかに対応するために必要なこと上記の能力を実現するためには、「システム部に必要な能力を持つ要員を必要な量だけアサインすること」、「システム変更・システム停止を含む判断を迅速に行える権限を与えること」が必要になる。権限については重要で、通常の、「書類を作って、エビデンスを添付して、承認印を回して、会議して」、といったプロセスを何週間も経ているようでは間に合わない。できるだけシステム稼働させたいユーザ部と、情報漏洩するくらいならシステム停止したい経営側との要求が競合するため、システム部が板挟みになって機能不全に陥らないように、必要な権限を与える必要がある。システム部としては、重責を負うことになるので、組織的に速やかな判断を下せるように、セキュリティインシデント発生時に適用する緊急プロセスを設ける必要がある。速やかな本番適用を実現するためには、システム的な機能として、以下のようなものが必要になる。ログの取得と保護、データや通信経路の暗号化といったベタなものと合わせて実施するべきである。今般のような緊急性が高い事象については、上記のような基本的なお作法・ガイドラインへの準拠に加えて、「緊急性が高いことを認識する能力」と、「最低限度の暫定対応策を迅速に実現する能力」が求められる。(SoR)と呼ぶことがある。(SoE)に対する対比として作られた用語だ。業務システムは、一般に、入力されたデータを加工して保存し、次の入力のために保存されたデータを出力するという意味で、レコーダーの役割を主とする。そのためのデータ永続化機構がDBであり、DBに保管されたデータを読み込み、処理し、またDBへ保管するのがアプリケーションの主な役割になる。業務システムで最も重要視されるのは、データ・インテグリティ、つまりデータの整合性だ。入力と出力の間で各種の変換処理が発生し、複数の永続化機構(主にDB)にデータを格納し、また複数の永続化機構からデータを読み出して変換するシステムにおいて、複数の永続化機構の間でデータの整合性が確保されていることは、最も重要なことだ。一度データ整合性が破損すると、破損したデータを読み込んで変換した結果データが他の永続化機構に保存され、それがまた読み込まれて誤ったデータを出力して、また別の永続化機構に保管され、といった具合に、誤ったデータが次々に伝播し、正しいデータと誤ったデータを区別することができなくなってしまう。なってしまったら、データ破損前に取得したバックアップまで巻き戻って、業務をやり直す他はない。社内業務であれば、最悪の場合、前日取得時のバックアップまで巻き戻ってやり直すこともできるだろうが、社外に提供したり受領したりするデータについては、そうそうやり直すことはできない。銀行業務の場合、ATMやネットバンクでの、銀行の顧客による入出金処理をやり直してもらうことは、ほぼ不可能だ。これらの業務システムは、業務の必要に応じて構築するものであり、業態によっては競争力の源泉になるが、マーケティングの観点では、差別化の取り組みが必要になる。その重要な要素のひとつが「コミュニケーション」である。Record"と区別することが提唱された。このような意味では、既存の業務システムにおいても、SoR的な機能とSoE的な機能とが、混在しているのが現状である。SoRとSoEという用語の強みは以下にあると思われる。既存のシステムが保管するデータに対して、SoE的なインタフェースを抽出して外部に公開する。これらの機能を峻別して、各々の機能を、適したアジリティとSLAで実装できるようにする。SoRに分類される機能は、データインテグリティとセキュリティを最上位の価値として、業務品質と業務効率とを向上させるように実装すべきだ。「一度作ったら十年塩漬け」といったものにしないために、業務継続性の根幹となる普遍的な部分と、大規模改修・フルスクラッチをせずとも、ある程度は柔軟に変更できる可変部分を含むアーキテクチャを採用すべきである。SoEに分類される機能も、データインテグリティとセキュリティに気を配る必要があるが、コラボレーションしやすく、プライバシーを保護できるようにすることに注力する必要がある。そのためには、事業の継続に必要となるような、データインテグリティとセキュリティが必要な基幹的なデータは、SoEで扱うにしても、短時間にとどめて永続化せず、必要であれば別のSoRのシステムへ移動してしまうのが良い。SoRは堅牢であることが必要であり、SoEは高いアジリティが必要である。ServiceベースのSOAを指向したが、SoEは、REST原則に基づいて実装されるマイクロサービスを指向する。そのための開発プロセスやメソドロジーは、必要に応じて別のものを採用する必要があるだろう。[edit]ITシステムにおける性能試験についてはじめにITシステムは、単に動くだけではなく、本業務のピーク時に、目標の応答時間や単位時間当たりの業務処理量を達成する必要がある。初期構築から、次回のシステム更改時までのデータ保持量や、ログメンテナンスサイクル内でのログ量などの、キャパシティを満たす必要もある。そのために実施するのが、性能試験だ。性能試験には、おおよそ、次の種類がある。単体性能試験オンライン負荷試験バッチ走行試験ロングラン試験テスト環境とテストデータについて大前提として、性能評価のためには、基盤環境、業務アプリ、データを、本番相当にすることが必要だ。新規構築やシステム更改案件なら、構築中の本番化予定の環境で試験すべきである。テストができない場合は、ハードウェアとソフトウェアの技術的構成要素が、出来る限り本番環境と近しいテスト環境を、ステージング環境として用意する必要がある。テストデータの観点では、レコード数、カーディナリティ、比率が、最も重要な要素となる。まれに、レコード数だけを本番相当にして満足している場合があるが、レコード数は一定量を超えたらあまり影響しなくなるので、特にカーディナリティと比率が重要だ。品質の良いテストデータを生成することは非常に難しい営みとなる。単純な場合は、テストデータ生成プログラムを開発することが多いが、本番データをマスキングしてテストデータを生成することもある。DBが複数存在するような大規模で複雑な場合は、本番データの中で大元になるデータをマスキングし、バッチを走行させて、各DBへバッチ処理後のデータを行き渡らせ、この処理で行き渡らない個別データは、ターゲットDBにて個別にマスキングすることになる。このデータを準本データと呼ぶことがあり、保守・運用サイクルの中では、定期的に準本データを最新化する必要がある。データマスキングツールには色々あるが、複数のデータベース間で、識別子の一意性を保ってマスキングすることは難しいことから、このような営みが必要となる。これは、かなり大規模な営みであり、高度に管理されたテスト環境が必要となることから、代替策として、本業務環境の統計情報をエクスポートして、テスト環境にインポートするだけのこともある。テーブルレイアウトやインデックス有無などが変更される場合は、この方法は使えない。単体性能試験まず、単体性能試験は、SQLやトランザクションの単体試験の一環として実施する。機能確認試験に加えて、応答時間、メモリ使用量、アクセスパスなどを単体レベルで検証する。この試験では、網羅性目標を設けて、その目標を満たすようにケースを策定するほか、データを本番相当にすることが重要だ。単体試験には、多くの開発者・開発チームが、各々独立して取り組むことになるので、UT完了のクライテリアとなるように開発規約に組み込むと共に、簡単かつ同じ品質で実施できるように、ツールを開発して提供することが望ましい(開発者の各々に、ログを見て評価してもらうことは、事実上できない)。SQLについては、データを用意した上で、アクセスパス、読み込み量、応答時間などを評価することになるが、評価対象指標に閾値を設けて、超過したものだけ詳細に評価するプロセスが望ましい。ここでも、簡略化するためのツールの提供が望ましい。次に、オンライン性能試験を、ITbのフェーズで実施することになる。応じて、このサイクルを、何度か繰り返すことになる。本業務サービス提供済みのシステムなら、次の2つの何れかの方針で、ベース負荷をかけることになる。これを実現するためには、何らかのツールの適用が必要になる。ログからテストケーススクリプトのスケルトンを生成して、バインド値などを作りこむ。本業務サービス提供中のパケットをキャプチャして再生する。このためには、キャプチャ開始時のデータのバックアップを、テスト環境にロードする必要がある。前者の場合は、ログから負荷ツール用のスクリプトを生成するプログラムの開発が必要になる。バインド値の設定など、人手の対応が多いので、100%再現することはできないため、「本業務サービス時の80%のリクエストを再現する、実行件数の多い上位20%の画面を再現する。全体の件数が100%となるように、全体を80%で割る(1.25倍する)」などの方針を設けて取り組むことになる。後者の方が簡単そうに感じられるかもしれないが、本業務のパケットをキャプチャして再送する場合でも、リクエスト・レスポンス毎に動的に変動するパラメータ(カンバセーションIDなど)などの取り扱いに人手の対応が必要になり、本業務のデータをテスト環境にロードすることも、規模が大きくなるほど困難になる。本業務サービス提供時の振る舞いを再現するに当たっては、当該トランザクション実行時に同時に実行される予定の、オン中バッチについても、走行させることが必要だ。上記のように、本業務サービス時のトランザクションミックス・負荷状況を再現できたら、次に、テスト対象のアプリ・時期による変動分を、作り込んで行く。来年4月に本番化されるアプリの試験であれば、以下の対応が必要となる。トランザクションを、負荷スクリプトとして開発して追加するテストのやり方としては、まず、変更前のアプリに本業務サービス相当の負荷を掛けて、本業務サービス提供時の振る舞いを、ある程度満足できるだけ再現できることを確認してから、変更後のアプリをデプロイして、リリース後の本業務サービス提供時の見込みの負荷を掛けて、パフォーマンスとスループットを評価することになる。本業務サービス提供中のシステムで、新規トランザクション追加・既存トランザクション変更が、少数である場合は、最初からトランザクションミックスの負荷を掛けずに、まず、追加・変更予定のトランザクション単体の負荷試験を実施して、当該トランザクション単独負荷でのパフォーマンス&スループットを評価することが望ましい。夜間バッチの場合は、オンライントランザクションよりも単純だ。業務処理量のピーク時相当のデータで、本業務サービス提供時と同じ種類のバッチを、同じ順序で、同じ多重度で走行させて、スループットとキャパシティを評価すればよい。この際、データによって、個々のジョブユニットの走行時間や多重度が変動する可能性がある場合は、いくつかのデータのバリエーションで、走行試験を実施することが望ましい。ロングラン試験ロングラン試験は、長時間サービス提供を継続することで、メモリやファイルシステムが単調増加することがないかどうかを評価するために行う。ジョブおよび、オンライン負荷を、本番サービスイン後想定となるように、走行させることであるが、現実的には難しい、もしくはできないことが多い。そのため、検証できる内容に制約が設けられることにはなるが、例えば、以下の方針で試験を実施することになる。ジョブについては、データの繰り回しを含んだ機能確認試験の観点で、一週間程度、繰り回し試験を行う。2ヶ月間以上、ST・運用試験として走行させる。おわりに開発工程標準の一部として、上記のような営みを定義することとあわせて、各工程で、品質と効率を向上させるためのツール適用、ツールと環境の結合・自動化が必要となる。ツールの適用に当たっては、ツールと環境が利用できるようになっていれば良い、というものではなく、「使われているか、プロセスは遵守されているか」、「利用に当たって困難はないか」、「次のプロジェクトで再利用可能なアセットを抽出できないか」といった、技術的なサポートを提供する体制とセットで考える必要がある(参考)。別の観点として、システムをテストしやすく作るということが挙げられる。テストは、テスト範囲が広ければ広いほど、幾何級数的に準備と結果検証の負担が高まる。ハードウェアと、ソフトウエアの観点で共有するコンポーネントがない部分は、各々を独立してテストすることができる。昔から、巨大なシステムは、手頃な範囲にサブシステム分割し、サブシステム間は互いに疎になるように結合することが推奨されてきた。(SoE)か、SoRであればマスターデータのフローやクライアントチャネル、SoEであればAPI単位などに注目して、管理できる程度のサイズまで細かく、そして逆に細かくなり過ぎないように、分割することが必要だ。API単位まで分割する場合は、人手で個別に管理することは困難になるので、テストを完全に自動化すべきだ。性能試験は、一回、二回という単位で数えられるイベントではなく、数週間単位を何度か繰り返す、フェーズとして計画する必要がある。性能試験を実施できるように、巨大なシステムは、凝集度が高くなるようにサブシステム分割し、サブシステム間の連携は、結合が疎になる方式で標準化すべきである。[edit]Javaヒープサイズのチューニングについて(世代別の場合)はじめにJavaオブジェクトが使うメモリ領域のことをJavaヒープと呼ぶ。(JVM)は、Javaヒープが空いている限りはJavaオブジェクトを作成し続ける。(GC)という処理を実行して、使い終わったオブジェクトが占有していたメモリ領域を、新規のJavaオブジェクト作成用に再利用できるようにする。GC実行中はアプリケーションの処理が概ね停止するので、如何に、パフォーマンスとスループットに悪影響を与えないようにGCを実行させるか、ということを目的としてチューニングする必要がある。したユーティリティ類を動かすだけなら、せいぜい数百MB程度のJavaヒープで十分であり、GCが発生しても数百ミリ秒程度なので、気になることはまずない。業務システムの場合は、大量のデータと大量のトランザクションを処理するために、かなりのサイズのJavaヒープが必要となることが多く、GC実行時間が秒単位に延びてしまうことがある。昔は、メモリが高価であり、アドレッシングも32bitだったので、2GB程度のJavaヒープで何とかやりくりしていたため、負荷が高いシステムでは、Javaヒープが極短い時間でいっぱいになり、GCが1秒間に何度も実行され、1回当たり数百ミリ秒〜数秒掛かるので、スループットが悪化し、最悪の場合はOutOfMemoryErrorに至ってしまうということがあった。今では、64bitモードの広大なアドレス空間が利用可能で、メモリも安価になったので、深刻な問題に遭遇することは少なくなった。現在でも、高負荷で複雑なアプリが稼働する環境では、GC実行方式とJavaヒープサイズをチューニングすることの効果は大きく、システムの安定稼働のために重要な営みである。(逆に言うと、大して負荷が高くなく、アプリもそれほど複雑でなく、Javaヒープも潤沢に確保できる場合は、JVMがかなり自動でよろしく計らってくれるので、チューニングしてもそれほど何かが良くなるというものではない。)GC方式の選択GC方式は複数の種類から選択可能であるが、現状では世代別GCが最も多く使われていると思われる。Javaヒープサイズのチューニングは、アプリケーションの特性に応じて個別に検討する必要があるが、「NEWを大きく、OLDを小さく」、「サイズの差はOLDでつけて、NEWのサイズは固定」、「物理メモリが余っていても、全体サイズを大きくし過ぎない」といった原則に基づいてチューニングしていくことになる。Javaヒープサイズが極端に大きい、もしくは小さいなどの顕著な特徴がある場合は、他の方式のGCを検討する必要がある。選択できるGC方式は、Javaランタイムの種類ごとに異同があるので、JVM開発ベンダーのドキュメントを参照する必要がある。詳細はJVM開発ベンダーに依存するが、世代別GCではプロセスが確保する全メモリ空間を、以下のように分類して管理する。説明JavaヒープNEW領域(nursery)EdenJavaオブジェクトが新規に作成された際に、まずアロケーションされる領域。SurvivorEdenスペースがいっぱいになった時点で、生存していたオブジェクトが残される領域。EdenとSurvivorの間で生存オブジェクトがコピーされることをフリップと呼ぶ。アプリケーションの特性に依存するが、フリップによって生き残るオブジェクト数は少数であることが多く、NEW領域においてSurvivor領域に必要なサイズは、Eden領域よりも少なくて済む。この比率は、JVMが自動的に計算して動的に変動する。(多くの場合、NEW領域の大半はEden用に使われる。)OLD領域(tenured)NEW領域で何度かフリップが繰り返される間、存続し続けたオブジェクトは、長命オブジェクトとみなされてOLD領域にコピーされる。GC)と呼ばれるGCが実行される。NEW領域のGCは、EdenとSurvivor間でのコピーGCだったが、OLD領域のGCは、従来のマーク&スイープ型GCであり、必要に応じてコンパクションも実行される。ラージオブジェクトとそれ以外に分けられ、OLD領域に占めるラージオブジェクトアロケーション用の領域の比率は、JVMが自動的にチューニングするが、このサイズが頻繁に増減するアプリの場合は、ラージオブジェクトエリアのサイズを明示的に指定した方が良い。Nativeヒープクラス定義、メソッド定義、ダイレクトバイトバッファ、スタック、JVM自身の稼働領域などで使われる。Javaヒープの最小・最大のサイズは、java起動時引数-Xms、-Xmxで指定するが、これではNativeヒープのサイズは制限されず、上限は当該OS区画に割り当てられている物理メモリサイズになる。アプリケーションの特性によっては、ダイレクトバイトバッファや、スタックのサイズを指定する必要が生じることがある。この領域のメモリメンテナンスは、ダイレクトバイトバッファ枯渇か、フルGC時に行われる。NEW領域は、EdenとSurvivorに分けられる。JavaオブジェクトはEdenにアロケーションされるが、いっぱいになると、生存オブジェクトをSurvivorへコピーする。JVMの場合は、Survivor領域を二つに分けて、EdenからSurvivorへの生存オブジェクトのコピーは一時点では一方へ行い、EdenかSurvivorがいっぱいになると、他方のSurvivorへのコピーが実行される。JVMの場合は、Edenがいっぱいになると生存オブジェクトをSurvivorへコピーし、今度はSurvivor領域をEden領域としてアロケーションして行き、以後、いっぱいになる度に入れ替えを繰り返す。NEW領域での、EdenとSurvivor間でのコピーを何度か繰り返しても存続し続けるオブジェクトは、OLD領域にコピーされる。OLD領域がいっぱいになると、フルGCが発生する。一般に、NEW領域のGCよりも、OLD領域のGCの方が遅く、アプリケーションの振る舞いに対して与える影響が大きい。通常のアプリケーションでは、オブジェクトの大半は、短命オブジェクトだ。これらのオブジェクトは、メソッドブロック内や、長くてもトランザクションスコープを存続期間とするものであり、NEW領域で何度かフリップを繰り返すうちに消滅し、OLD領域へ昇格することはない。OLD領域へ昇格するのは、極わずかな長命オブジェクトだけだ(長命なものとして、セッションスコープ、アプリケーションスコープのオブジェクトが存在する)。NEW領域が小さいと、数百ミリ秒以下の間隔でEden領域がいっぱいになってしまい、短命であるにもかかわらず、OLD領域に昇格され、OLD領域がすぐいっぱいになり、フルGCが頻繁に発生することになってしまう。短命オブジェクトをNEW領域のGCで確実に消滅させ、OLD領域のGCが発生しても短時間で完了させるために、NEW領域を十分に大きくし、OLD領域を必要十分以上に大きくしないことが、重要になる。NEW領域の比率を、全体の1/3程度としているケースが多いが、適切なサイズはオブジェクトのサイズ・個数・生存時間に依存する。オブジェクトのサイズが十分に小さく、生存時間が十分に短いことが分かっているアプリケーション以外では、NEW領域の方をOLD領域よりも大きくした方が適切な場合が多い。本ページでは、主に、JavヒープのNEW領域とOLD領域のチューニング方針について記載するが、Nativeヒープについても、チューニングする必要があることがある。-P"出力結果や、Javaプロファイラによって評価する必要がある。世代別のGCは、上記の通り、「NEW領域を大きく、OLD領域は小さく」することが重要だ。NEW領域を大きくすることで、OLD領域のGC発生頻度を減少させることができるし、OLD領域を小さくすることで、1回当たりのGC実行時間を短縮できるためだ。OLD領域を小さくし過ぎると、OutOfMemoryErrorが発生してしまうので、必要十分なサイズに設定することが必要だ。類似すると考えられるアプリが実稼働している環境があるなら、当該環境をリファレンスして、最初の仮定値を決定するのが良い。他システムの設定をリファレンスすることができず、当該OS区画で利用可能な物理メモリの上限が決まっている場合は、以下のような感じで初期設定する。設定オプションは、Javaランタイムの種別ごとに異動があるので、上記のベンダー提供マニュアルを参照する必要がある。OS区画で利用可能な物理メモリの使用率に十分余裕がある中で、Javaプロセス全体で利用可能なサイズを決定する(ページングが発生しないように、OS+プロセスが実際に利用するメモリサイズが、物理メモリ全体の70〜80%程度になる程度で見積もる)。Javaプロセスで利用可能なサイズの2/3程度をJavaヒープサイズの最大値(-Xmx)に設定する。(残りの1/3がネイティブヒープで使われる想定。)Javaヒープサイズの最大値の70%程度を最小値(-Xms)にする。Javaヒープサイズの最小値の半分程度をNEW領域のサイズとする(NEW領域は最小=最大とする)。Javaヒープの全体から、NEW領域のサイズを引いたものが、OLD領域のサイズとなる。最大値(-Xmx)とする場合は、差をつけるにはOLD領域のサイズで差をつけ、NEW領域サイズは固定にした方が良い。NEW領域のGCと比べると、OLD領域のGCの方が、まれにしか実行されないためだ(頻繁にサイズ拡大・縮小してほしくないため)。次に、実際にアプリケーションをデプロイして、本業務ピーク時相当の負荷を掛けたときの冗長GCログを評価することで、以下の方針で、OLD領域のサイズを縮小し、NEW領域のサイズを拡大する。OLD領域の、GC後のメモリ使用量が、OLD領域の最小値の70%程度になるまで、OLD領域の最小値を下げる(=NEW領域のサイズを拡大する)。OLD領域の最大値を、OLD領域の最小値が70%程度となるまで下げる(=NEW領域のサイズを拡大する)。NEW領域は、物理メモリが利用できる範囲内ではあるが、以下のようになるまで拡大する必要がある。高負荷時間帯に、OLD領域のメモリ使用量が増加しない、もしくは増加しても軽微である。高負荷時間帯に、NEW領域のGCが、概ね10秒以上の間隔で実行されている(まれに連続実行されることがあるのは問題ではない)。上記は、OLD領域が、十分に確保できることが大前提となる。OLD領域が枯渇すると、OutOfMemoryErrorが発生してしまうためだ。以下のように振舞うようになるまで、OLD領域の適正なサイズを探っていく必要がある。OLD領域の拡大・縮小が発生しない、もしくは発生してもまれである。OLD領域のGCが、ピーク時間帯に発生しない、もしくは発生しても発生間隔が5分間以上である。最終的に、ピーク時の、単位時間当たりに占めるGC実行時間の割合が、4%以下となることを目標に、チューニングすることが望ましい。繰り返しになるが、OLD領域を必要十分以上に大きくしてしまわないこと、NEW領域を十分に多く確保することが望ましい。昔は、利用可能なメモリサイズが小さかったため、OLD領域を大きく取ることが推奨されていた。これは、メモリを十分に確保できない状況で、マーク&スイープ型GCが主流であったことの名残でもある。OLD領域を必要十分なだけ確保した上で、NEW領域を大きく確保する必要があるので、業務システム利用における多くの場合は、OLD領域よりもNEW領域の方がだいぶ大きくなるはずだ。マーク&スイープGCから世代別GCへの移行2GB程度までのJavaヒープサイズの場合は、世代別GCよりも、マーク&スイープ型の方が有利である可能性がある。この傾向は、サイズが小さくなるほど顕著になる。サービス提供開始時点ではマーク&スイープ型だったとしても、徐々に処理量が増加し、GC負荷が高騰したために、Javaヒープサイズを拡大する要求が生じて、2GBを超えるようになったら、世代別GCへ移行することを検討することが望ましい。GC方式の変更は、パフォーマンスに対して少なくない影響を与えることから、本業務サービス提供環境では、保守的な態度で、徐々に変更していくことが望ましい。保守的な方針は、マーク&スイープ型GCのときのJavaヒープサイズの最大・最小の設定値を、世代別GCのOLD領域の最大・最小値にして、NEW領域を単純に追加することだ。メモリに余裕があれば、まずは、OLD領域の最小値程度(=元のJavaヒープサイズの最小値≒最大値の70%程度)を、NEW領域としてJavaヒープに追加することが望ましい。NEW領域を追加することで、OLD領域のGC実行頻度は減少するはずなので、その後の稼働状況を一定期間評価することで、OLD領域のGC後使用量を確認し、当該の量が70%程度となるまでOLD領域サイズを縮小し、その分、NEW領域を拡大すれば良い。本業務サービス提供環境で極端な設定変更が好ましくない場合は、数回に分けて徐々に割り当てサイズを変化させていくことが望ましい。前項の繰り返しになるが、最終的に、以下のようになればよい。強大なオブジェクトがアロケーションされた場合に、連続領域が確保できないなどの理由で、GCが連続実行されることがあるが、稀であれば問題ではない。OLD領域の拡大と縮小が頻繁に発生しない。(特にオンラインのピーク時には発生しない。)OLD領域のGC後の使用率が70%程度である。(低すぎも、高すぎもしない。)OLD領域のGC実行間隔が概ね5分間以上である。(一時間に数回程度が望ましい。)NEW領域のGC実行間隔が概ね10秒以上である。GC実行時間比率が4%以下である。例として、以下のようになっている場合は、チューニングが必要だ。改善方法OLD領域が、ピーク時間帯に徐々に拡大していく。Javaヒープサイズの拡大は負荷が高くGC実行時間も長くかかってしまうので、ピーク時間帯に必要なサイズまで、OLD領域の最小値を拡大する。バッチ処理などで、徐々に拡大するのではなく一気に拡大し、処理終了後に一気に縮小する場合は、この限りではない。OLD領域のGCが、ピーク時間帯に何度も実行されており、GC後のOLD領域の使用率が低い(50%未満である)。NEW領域で消滅すべきオブジェクトがOLD領域に昇格してしまっているので、OLD領域のサイズを削ってNEW領域を拡大すべき。OLD領域のGCに数秒以上かかっており、GC後の使用率が低い(50%未満である)。OLD領域のGCは、コンカレント・マーク&スイープ型GCであり、サイズが大きくなるとそれだけGC実行時間も長くなる。GC後の使用率が70%程度になるまで、OLD領域のサイズを縮小すべき。(フルGC)が発生している。アプリケーションで、System.gc()が実行されていないか確認し、実行されていないことを確認できたら、ダイレクトバイトバッファ枯渇を疑う必要がある。チューニングポイントは他にもたくさんある。スタックサイズ、ラージオブジェクトエリアサイズ、ダイレクトバイトバッファサイズなどは、チューニングする必要に迫られる可能性がある。用途によってはシステムプロパティ(-Dproperty=value)で、タイムアウト値や機能無効化などを設定する必要があるかもしれない。これらのチューニング要否を含めて、全体としてはアプリケーションの動作特性に依存して個別的に評価・判断すべきであるが、「NEWを大きく、OLDを小さく」、「サイズの差はOLDでつけて、NEWのサイズは固定」、「物理メモリがあまっていても、全体サイズを大きくしすぎない」ということは、ほとんどの場合は守るべき事柄だ。[edit]セッション共有についてWeb系のシステムでセッションを用いるとき、永続化するか、他のクラスターメンバーと共有するかという選択肢がある。セッションを永続化すれば、古くなったセッションを永続化してメモリ消費量を抑えたり、再起動後も利用可能にできるようになる。永続化されたセッションを、他の負荷分散対象クラスターメンバーと共有できるようにすれば、処理中のメンバーで障害が発生して、他のメンバーへリクエストが割り振られても、割り振り先メンバーで、セッションを継続的に利用できるようになる(再ログインせずにサービス利用を継続できる)。セッション永続化・セッション共有を実現するシステムが多かったが、システムの規模・複雑さが増大していく中で、トランザクショナルなデータをセッションに格納して利用することが好まれなくなり、冪等な処理をステートレスに実装することが多くなった結果、重要性は低下した。(SoR))の場合は、セッション永続化・セッション共有が求められることがあるが、業界トレンドとは別の観点として、以下のことについて気を配る必要がる。セッションの永続化は、原則として非同期書き込みになるので、必ずしも全てのケースを救えるわけではない(タイミングによって、巻き戻りや、業務データ用DBなど他の永続化機構との不整合が発生する可能性がある)。セッションの永続化で必要になるI/O量は、トラフィック量×サイズに依存するため、ハイトラフィックなシステムの場合、業務DBに対するI/Oよりも多くなる。セッションI/O量を削減するためには、セッションサイズを最低限度に抑える必要がある(トランザクショナルに必要なデータはDB等で永続化し、トランザクションはステートレスに実装する)。大量のI/Oを処理するために、ネットワーク帯域を圧迫しないように考慮する必要がある(業務セグメントと分ける、複数ポートを束ねてイーサチャネル構成にする、など)。セッションの永続化・共有化が必要と考えられる場合は、まず物理層で実現可能な量であるかどうかを評価する必要がある。業務処理に影響を与える可能性がある場合は、セッションのサイズを減らしたり、セッション永続化・共有化に用いるネットワークのポート増設・イーサチャネル構成、セグメント分離などを検討する必要がある。セッションのサイズを減らすということは、セッションの永続化・共有化の必要性を減らすことでもあるので、最終的には、上記の費用と得られる効果とを比較・評価した上で、セッション永続化・共有化を利用するかどうかを決定する必要がある。トランザクション量・アプリの複雑さが高まると、それだけ多くの取り組みが必要になるので、このトレードオフは不利な方へ傾いていくことになる。[edit]ITシステムにおけるアーキテクチャについてITシステムの構築にあたっては、リファレンスシステムを選定して、真似ることから始めるべきだ。なるGap部分に注力して検討を行う。極端に低下してしまうことがある。アーキテクトは、システムが複雑になりすぎないよう、常にシンプルさが保たれているように、常に心がけている必要がある。複雑さが増していく要因は、個々の要件に対する個別的な対応が積み重なることにある。変更要求やインシデントなどの起因となる要件に対して、コスト要因、構築中の環境遷移・テスト要件などで、「こうすればこうできる」、「このためにはこうすれば良い」という技術的な判断を個別に行うことで、機能的には個々の要件を実現できるものの、全体として複雑さが増してしまうことがある。技術的な決定を下すに当たっては、「できるかどうか」だけではなく、以下のような観点を踏まえて、「やってよいか」という評価を実施する必要がある。新規の技術的構成要素が増えないか後続フェーズでの保守体制・コストの増加要因にならないか既存のアーキテクチャの連続線上に存在するか既存の他システム実績があるか(もしくは、他システムでも流用可能な仕組みか)局所的な例外要素とならないか普通はどうするものなのか業界トレンドに沿っているか少人数で、頭を悩ませて考えることは、危険な兆候である。考えることは重要であるが、頭で考えたことは、多くの場合、机上の空論になりがちであり、複雑化し過ぎる傾向にある。机上で、現実的に遭遇し得るあらゆるケースを見切れるだけの検討を施すことは、非常に困難なことであり、微視的な課題・困難・要件については、技術的に「こうすれば、こうできる」という解決策が必ず策定できてしまうためだ。考えることは重要であるが、そのためには、事例に基づく必要がある。イノベーションは、実現されて初めてイベーティブになるのであって、実現できなかった机上の空論には何の価値もないからだ。事例に基づけない場合は、机上で策定したソリューションが、現実的に効果があるかどうかを、小規模に検証してみることが有効となる。この取り組みは、PoCとかプロトタイピングとか呼ばれる。システムのTCOに責務を持つステイクホルダーに対して、トレードオフ(Pros&Cons)を提示して意思決定してもらうように計らう必要があるかもしれない。現場の担当者は、全体最適に対して、局所的な責務しか帯びていないことがあるからだ。構築・更改案件の初期投資コストに対してのみ責務を負っており、その後の保守・運用フェーズへの技術的負債の蓄積による負の影響についてはスコープ外となっているような場合が挙げられる。アーキテクティングは、「あれも、これも」できるようにすることではなく、「あれか、これか」を選択して制約を設けることである。[edit]ITシステムにおけるツールの利用についてシステム構築・維持保守では、様々なツールが使われる。ツールを適用する目的は、品質と効率の向上だろう。アプリのリグレッションテストや負荷試験は、何度も繰り返し実施されることながら、人手でなんとかしようとすると、莫大なコストと期間がかかるため、ツール適用の効果が大きい。そのため、かなり初期からツール適用が進んでおり、継続的インテグレーションやDevOpsの名の下に、デプロイメントパイプラインを設けて一気通貫の自動化を進め、アプリだけでなく、インフラの設定・構築も、その仕組みに乗せて管理しようという方針が進んでいる。この辺りにツール適用して効果を高めるためには、テスト環境準備(アプリデプロイ、データ準備)、テスト実施、結果評価の、一連のプロセスを自動化することが重要なのであり、利用を始めてからPDCAサイクルを回して使いこなしていく過程が重要となるのだが、そもそも、ツールに対する取り組み姿勢が大前提になる。ツール適用に当たっての議題は、当該ツールの機能もさることながら、どう使うかが大半だ。企業の規模、システム部の規模が大きくなればなるほど、参画人数が多く、マルチベンダーの体制になる。規模が小さい場合は、まず、ツールを適用するところから始めれば良いが、規模が大きくなればなるほど、やがて、効果が上がらなくなる。初期には、ツールのライセンスをプールし、当該ツールを実行するための常設基盤を提供して、複数チームで共有する体制を設けることから始めれば良いが、やがて使いこなせず、期待した費用対効果が得られないという課題が明確になる。次のステップとしては、以下の責務を持つチームを、内製化体制として設けることが望ましい。当該ツールを使いこなすためのガイドやアセットをメンテナンスして利用チームに対して技術支援する利用実績を踏まえてガイドやアセットをブラッシュアップしていく有効に活用されているかどうかを評価して、活用度が低い場合には、有効に活用してもらうための追加の取り組みを検討して実施する逆に言えば、そういう体制やプロセスを設けずに、複数のチームで共有できるライセンスプールとランタイム環境を提供するだけでは、ツール適用の効果である、品質と効率の向上は期待できない。[edit]ITシステムの基盤更改への取り組みについて基盤更改とは基盤更改とは、ITシステムの、ハードウェア・ソフトウェアの入れ替えを目的として実施するプロジェクトだ。業務システムは何れ、基盤更改というプロジェクトに取り組むことになる。その契機は、ハードウェアやソフトウェアのサポート・保守切れ対応になる。従って、この世の中で最も多いタイプのSIプロジェクト型と言えると思う。基盤更改で最も問題になるのはコスト。業務サービスの継続性・安定稼働は大前提だが、業務要件を契機として始まる案件ではないため、投資よりも経費寄りの案件と言えるため、コストが問題になることが多い。基盤更改案件で最も大きなコストになるのは、最低限度、購入する必要があるハードウェアやソフトウェア以外では、業務アプリのリグレッション試験のコストが最大になる。基盤更改プロジェクトの成否は、業務アプリのリグレッション試験を、どれだけ広く・深く実施できるかに掛かっていると言って良いと思う。歴史を遡ると、まずは、オープン系のシステムが実装され始めた2000年代前半。初期に構築されたオープン系システムが5-7年経過して、基盤更改のタイミングを迎えるようになった頃。当時は、「基盤のハードウェア・ソフトウェアだけを入れ替える、業務アプリへの影響は極力最小限度にする」、というポリシーが採用されることがあり、仮に業務アプリ更改要件があっても、「まず基盤更改先行し、追って業務アプリ更改する」、という、基盤と業務アプリの更改タイミングをずらす方針が採用されたことがあった。その理由には以下のようなものが挙げられると思う。当時はまだオープン系のシステムは今ほど多く・複雑でもなかった。システム部要員がメインフレーム経験に基づいていた。メインフレームは、シングルベンダーによる垂直統合型で実装されている。ハードウェアとソフトウェアが、特定のベンダーによって実装されており(もしくは互換機ベンダー)、後方互換に対して高い互換性が維持されていた。Operation」など)。Liveする」という方式をとることができる。上記の方針をオープン系のシステムにおいても採用しようとした基盤更改の取り組みが、2000年代前半に行われることがあったが、残念ながら、大きな問題を引き起こすことになる。その要因としては以下のようなことが挙げられる。オープン系のシステムは、メインフレームと違って、ハードウェア・ソフトウェアの各スタック階層で、マルチベンダー実装が混在する。スタック階層間のインタフェースレベルの整合性は何とか保たれるものの、振る舞いレベルの互換性の維持は困難。オープン系では、メインフレームのように数十年前のプログラムに対する後方互換性よりも、機能追加の多さ・速さが求められていたため、後方互換も無視するわけではないが、注力する比率が相対的に低かった。実装が準拠する仕様が日進月歩で変化していったことで、仕様に準拠して振る舞いが徐々に変化していった。日進月歩での機能追加競争の中で、更改前はバグによって振舞っていた動作が、更改後は修正されて振る舞いを変えるということが発生する。明記された仕様に基づかない暗黙的な挙動が変更される。その結果、業務アプリのリグレッションテストは、メインフレームのように、「完全に同じものを流せば同じ結果になる」というわけにはいかず、「入り口と出口だけ確認すればよい、差異が生じることは例外で、各々に対処すればよい」とはならなくなった。メインフレームではある程度成り立っていた、「現行踏襲」という要件は、オープン系システムでは要件として成り立たなくなったし、方針としても採用困難なものとなった。人系のインテリジェントな判断を前提として実施する必要があり、システムの規模・複雑度が拡大するにつれて、コストと期間が、幾何級数的に拡大していった。上記の経緯で早々に破綻した結果、各企業では、基盤更改は莫大なコストが掛かることから、投資案件となる要件、すなわち業務アプリ更改とタイミングを合わせて実施することが多くなった。基盤更改に対してどのように取り組むべきか基盤更改は、基盤更改単独ではなく、業務アプリ更改とセットで実施するべきだ。業務アプリ更改でも、基盤更改でも、プロジェクトのコストの大半はテストに費やされる。「どうせコストが掛かるのであれば、両方を一緒のタイミングでやって、テストに掛かるコストを相殺しよう」、ということだ。テストの次に多くの工数が掛かるのは、要件定義だ。発生し、やがて管理できる限界を超えて破綻してしまう。これを避けるためには、きちんと要件定義に取り組むことが必要であり、基盤更改の方が幾分かは楽になるが、業務アプリ更改のときに比べて格段に楽になるわけではない。その結果、基盤更改のプロジェクト計画では、以下のようなことに注意が払われるようになった。合わせて、業務アプリ更改を計画する。棚卸しと位置づけて、案件の計画時に、ユーザー部・基盤チーム・業務アプリチーム・運用チームの課題の洗い出し・吸い上げに注力する。(保守が切れることも維持保守課題の1つ。)経営課題は、業務アプリ更改にタイミングを合わせて、とりまとめと対策検討を行う。上記の中でも、特に、アプリチームからの要件ヒヤリングは重要だ。Learned(教訓)を忘れてフルスクラッチで作り直すと、保守・運用期間の蓄積がゼロリセットされて、却って品質が低下してしまう。ヒヤリングを行い、当該プロジェクトではどこまで実施するのかを合意してから着手することが重要だ。一般に、プロジェクトは、予め計画していた事柄に対する変動に弱く、プロジェクトの開始後に、予期せぬ変更が多く発生することは、プロジェクトを大混乱に陥れるに足る、重要なリスクとなる。生じてしまうものであり、通常、それらを切り捨てることはできないため、これらをコントロール下におくためには、着手後の要求・要望を吸収できるように、開発早期フェーズにおけるイタラティブ&インクリメンタルなプロジェクト設計が必要となる。基盤更改プロジェクトの計画でやってはいけないこと以下のような特徴を持つ基盤更改案件は、大炎上して失敗するリスクが非常に高いアンチ・パターンと言える。生じて管理・吸収できる限界を超えてしまう」、といったことが発生し、いわゆる炎上案件、デスマーチになってしまう可能性が高い。基盤更改と業務アプリ更改をセットにせず、業務アプリは極力変更しない方針とする。業務アプリチームで実施すべき事柄について定量的に見積もらずに過小評価する。業務アプリチーム、運用チーム、経営層からの要件のヒヤリングが浅い。プロジェクト計画の策定時に、「案件が開始後にメンバーが揃ってから精緻化しましょう」と云って、具体的な検討を後回しにする。コスト削減のための工夫オープン系システムの規模と複雑さが拡大の一途を辿っている一方で、コスト削減の圧力が高まっていることから、コスト削減・CTOのために、以下のような取り組みも平行して行われている。Azureなど)各種のSaaSの利用(Salesforce、サイボウズなど)初期投資コストは最小限度にしてシステム構築し、1/Nスケールのシステムでの負荷試験実績に基づいて、本業務環境で必要なリソースを追加調達する。おわりに上記は2010年頃までには成熟していたことであるため、現在から振り返ると10年以上過去から知られていた旧聞に属することであるが、現在でも、さまざまな規模の、さまざまな事情の企業があり、未だに黎明期に位置する企業もある。いった企業は、先行企業の実績を踏まえて最新技術を利用し始められる優位性がある一方で、AI、コグニティブ(という名のエキスパートシステム)、クラウド、と言ったバズワードに翻弄されて、成熟する機会を逸している面もある。各企業、各アカウントで、各々、事情が異なるものだが、基盤更改は何度も繰り返されてきた営みであり、ある程度は、やるべきこと、やっていはいけないことが分かっている。自分の頭で考えて、咀嚼することは必要なことだが、考えるだけでは正しい解決方法にたどり着けないことが多いのも事実だ。常に、リファレンスする事例を調査して、Fit&Gapを評価してGapに対して集中して検討することが必要である。[edit]ITシステムにおける新製品の採用について業務システムで新製品を採用するときには、以下の何れかのパターンがあるように思う。業務要件があり、新製品で実装可能な場合。ベンダーの営業マターで新製品を売りたい場合。上記は排他的なわけではなく、各々の比率の大小はあっても、両方の要素を含むことが普通と思う。逆に言うと、上記の何れか一方だけに偏っている場合は、何らかの無理が生汁可能性が高まると思う。海外・国内での実績がまだ少ない製品の場合は、ベンダーの手厚いサポートを約束させて取り組むことで成功留守可能性が高まり、ユーザー企業は要件が実装できるし、ベンダーは成功実績を作れるしで、Win-Winの関係になる。悲劇的であるのは、新製品を売った後のシステム実装するデリバリーフェーズでのサポート力が弱く、まともに実装できずに炎上する、なんとかサービスインまでこぎつけても利用企業が少なくて保守フェーズで十分なサポートを受けられない、といったことになる場合だ。ユーザ企業側で新製品を採用する場合は、以下のことに注意する必要があると思う。製品開発・保守ベンダーのデリバリーフェーズでのサポート体制。業界トレンドに沿っているか。大企業での複数の実績がある製品であっても、まだ本業務サービス提供に至っていないかもしれないし、サービス提供後であったとしても間もないかもしれないし、企業規模としては大きくても、当該システムは小規模だったり、社内系のミッションクリティカルでないシステムにおいて限定的な機能を利用しているだけかもしれない。新製品採用時は、同業同規模の他社実績が十分あるものを選択するか、先進性高いものを提供ベンダーによる手厚いサポートをつけて余裕のあるスケジュールで取り組むか、いずれの方針とするのかを、明確にして取り組むことが望ましいと思う。X201iで、HDDエラーが通知されるようになった。Toolboxでスキャンするも解消せず、まだ数年使うと思うので、思い切ってSSDに換装した。(256GB)と、HDDからクローニングするために、SSDを入れてPCにUSBでつなぐ2.5インチHDDケース。CT256M4SSD2SSDは、もっと大きいものにしようかなとも思ったんだけど、どうせまた壊れるし、大きくしたら大きくした分だけ無駄につかっちゃうだろうからということで256GB。SD-S253U3-BAケースは、また使うかもしれないからUSB3.0対応のものということで。Backupを使った。昔、デスクトップのHDDのクローニングに、やはりEaseUS製品を使ったこともあり、今回はフリーのこちらを使った。backupをダウンロードしてインストール。SSDをケースに入れてUSBでつなぎ、SSDをフォーマット。backupを起動してクローニング設定。backupでの設定後、再起動が促され、EasuUSブートしてクローニングが開始。クローニング完了後、ThinkPadの電源を落とし、ドライバーを使ってHDDを抜く。HDDからマウント用ゴムを外してマウンタからドライバーでHDDを外す。SSDにドライバーでマウンタとゴムをつけて換装。PGPでHDDが暗号化されているので、クローニング可能かどうか心配だったけど、問題なく完了した。インデックス作成削除など、SSD用の設定を実施。SSDはHDDに比べて寿命が短いそうなので、それが気になるけど、あかんくなったら、また交換すればよろしかろう。バックアップは定期的に実行しとかないとな。