2019年7月12日0件のコメントこんにちは、GMOアドマーケティングのmizkichです。アドテクなマイクロサービスをGCPのKubernetesで運用しています。Ingressが、本日から急に動かなくなりました。軽くハマったので、その解決策を共有します。弊社のGKEな検証環境は、毎週週末にクラスタ毎削除され、週明けに新規で作成しています。今週も同じようにクラスタから作成しようと環境構築スクリプトを実行したところ、以下のエラーでIngressが起動しなくなりました。globally.」と出ているので、SSL証明書の登録が規定の30件に達したためにIngressが作れないと読み取れます。GKEはクラスタから新規作成しています。このGCPプロジェクトには、今回新規作成したクラスタ以外の用途には利用していません。このGKEでは、IngressのSSL証明書は3つしか登録していません。この問題は、GCPに何かしらのゴミが残っているのが原因だと推測しました。Clusterを削除しました。完全にクラスタが削除されたのを確認し、GCP内のゴミを確認します。groups)ゴミが残りがちなサービスは、全て空でした。次に、検索窓から「SSL」を検索してみます。すると、大量のSSLのゴミが見つかりました。検索結果からSSL証明書に飛んでみます。balancingに所属していることがわかります。“Frontends”の三つのカテゴリしか表示されていません。modeを有効にすると、GLBに”Certificates”のカテゴリが表示されます。certificatesのゴミが存在していました。本システムではSSLを2つ使うため、30個の上限を超え、Ingressが作れない事象が発生していました。まとめGKEの再構築を繰り返していると、LBの残骸が名前競合を起こすことが多々あります。groupなどを削除していましたが、それだけでは消し足りていなかったようです。GCPを使っていると、心当たりのないquotaExceededが発生することがよくあると思います。menuの存在を疑ってみると解決できるかもしれません。@gmoap_engineer本ブログで発信される情報は、各エンジニア個人の見解であり、弊社の公式見解ではありません。本ブログに掲載、引用等をしている商品またはサービス等の名称は、各社の商標または登録商標です。その他の事項について一切責任を負いかねます。発表する情報には注意を払っておりますが、公式発表、見解については、弊社WEBサイトおよびプレスリリースなどをご確認ください。GMOインターネットグループにおけるソーシャルメディア運用ポリシーについては次のページをご確認ください。本ブログに掲載のあるソフトウェアのダウンロードは自己責任で御願い致します。ソフトウェアのダウンロードの結果、ご利用者に何らかの損失・損害が生じたといえども、当社ではその責任を負いかねます。本ブログに掲載のあるソフトウェアを扱う際は、各ソフトウェアの公式リファレンスを参照のもとご使用下さい。ソフトウェアの実行の結果、ご利用者に何らかの損失・損害が生じたといえども、当社ではその責任を負いかねます。