![© 2022 NTT DATA Corporation 16自動フェールオーバー (1/2)多くのOperatorは、Patroniという外部ツールを使い、自動フェールオーバーを実現している。CloudNativePGは、Postgres instance managerという独自ツールを使い実現している。$ kubectl delete pod cluster-example-1pod "cluster-example-1" deleted$ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"n"}{end}’cluster-example-1 primary Runningcluster-example-2 replica Runningcluster-example-3 replica Running1. フェールオーバー前の状態を確認する。2. 今回はPodの障害を想定し、プライマリのPodを削除する](/image.pl?url=https%3a%2f%2fimage.slidesharecdn.com%2fcloudnativepostgrespgunconf34nttdata-220729112952-f77849b7%2f75%2fCloudNativePG-PostgreSQL-on-Kubernetes-34-PostgreSQL-16-2048.jpg&f=jpg&w=240)
![© 2022 NTT DATA Corporation 17自動フェールオーバー (2/2)多くのOperatorは、Patroniという外部ツールを使い、自動フェールオーバーを実現している。CloudNativePGは、Postgres instance managerという独自ツールを使い実現している。$ ps aux | grep instance26 126048 0.1 0.2 747084 45864 ? Ssl 07:06 0:01 /controller/managerinstance run --log-level=info26 130997 0.2 0.2 747084 41092 ? Ssl 07:21 0:00 /controller/managerinstance run --log-level=info26 131878 3.2 0.2 747340 41940 ? Ssl 07:23 0:00 /controller/manager instancerun --log-level=info$ kill -9 126048$ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"n"}{end}'cluster-example-1 replica Runningcluster-example-2 primary Runningcluster-example-3 replica Running3. 更新系クエリを投げ続けながら実施したが、ダウンタイム10秒ほどで切り替わった。補足: コンテナプロセスに障害を起こした場合も、同様に10秒ほどで切り替わった。](/image.pl?url=https%3a%2f%2fimage.slidesharecdn.com%2fcloudnativepostgrespgunconf34nttdata-220729112952-f77849b7%2f75%2fCloudNativePG-PostgreSQL-on-Kubernetes-34-PostgreSQL-17-2048.jpg&f=jpg&w=240)
![© 2022 NTT DATA Corporation 19ローリングアップデート (2/3)PostgreSQLのマイナーバージョンアップに際して、ローリングアップデートがサポートされている。全てのスタンバイが1つずつアップデートされた後、プライマリがアップデートされる。2. 変更前の状態を確認する。3. 編集したマニフェストを適用する。$ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"t"}{.spec.containers[].image}{"n"}{end}’cluster-example-1 primary Running ghcr.io/cloudnative-pg/postgresql:14.3cluster-example-2 replica Running ghcr.io/cloudnative-pg/postgresql:14.3cluster-example-3 replica Running ghcr.io/cloudnative-pg/postgresql:14.3$ kubectl apply -f cluster-example.yamlcluster.postgresql.cnpg.io/cluster-example configured](/image.pl?url=https%3a%2f%2fimage.slidesharecdn.com%2fcloudnativepostgrespgunconf34nttdata-220729112952-f77849b7%2f75%2fCloudNativePG-PostgreSQL-on-Kubernetes-34-PostgreSQL-19-2048.jpg&f=jpg&w=240)
![© 2022 NTT DATA Corporation 20ローリングアップデート (3/3)PostgreSQLのマイナーバージョンアップに際して、ローリングアップデートがサポートされている。全てのスタンバイが1つずつアップデートされた後、プライマリがアップデートされる。4. 新しいイメージに変更され、スイッチオーバーが発生したことが確認できる。$ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"t"}{.spec.containers[].image}{"n"}{end}’cluster-example-1 replica Running ghcr.io/cloudnative-pg/postgresql:14.4cluster-example-2 primary Running ghcr.io/cloudnative-pg/postgresql:14.4cluster-example-3 replica Running ghcr.io/cloudnative-pg/postgresql:14.4補足: 存在しないイメージ(14.5)を指定しアップデートに失敗すると、元のイメージ(14.4)を指定し直しても復旧できなくなる。$ $ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"t"}{.spec.containers[].image}{"n"}{end}'cluster-example-1 replica Running ghcr.io/cloudnative-pg/postgresql:14.4cluster-example-2 primary Running ghcr.io/cloudnative-pg/postgresql:14.4cluster-example-3 Pending ghcr.io/cloudnative-pg/postgresql:14.5](/image.pl?url=https%3a%2f%2fimage.slidesharecdn.com%2fcloudnativepostgrespgunconf34nttdata-220729112952-f77849b7%2f75%2fCloudNativePG-PostgreSQL-on-Kubernetes-34-PostgreSQL-20-2048.jpg&f=jpg&w=240)
NI
Uploaded byNTT DATA Technology & Innovation
4,635 views
CloudNativePGを動かしてみた！ ～PostgreSQL on Kubernetes～（第34回PostgreSQLアンカンファレンス@オンライン 発表資料）
CloudNativePGを動かしてみた！～PostgreSQL on Kubernetes～（第34回PostgreSQLアンカンファレンス@オンライン 発表資料）2022年7月29日NTTデータ技術開発本部 先進コンピューティング技術センタ加藤 健
Recommended
More Related Content
What's hot
Similar to CloudNativePGを動かしてみた！ ～PostgreSQL on Kubernetes～（第34回PostgreSQLアンカンファレンス@オンライン 発表資料）
![[OracleCodeTokyo2019] Kubernetesで実現する運用自動化の新しいアプローチとは](/image.pl?url=https%3a%2f%2fcdn.slidesharecdn.com%2fss_thumbnails%2foraclecodetokyo19b-2-2k8soperatorkshigeruv1-190522024836-thumbnail.jpg%3fwidth%3d640%26amp%3bheight%3d640%26amp%3bfit%3dbounds&f=jpg&w=240)
![[db tech showcase Tokyo 2014] C31: PostgreSQLをエンタープライズシステムで利用しよう by PostgreS...](/image.pl?url=https%3a%2f%2fcdn.slidesharecdn.com%2fss_thumbnails%2fdbtstokyo2014c31pgeconspostgresql-141120011520-conversion-gate01-thumbnail.jpg%3fwidth%3d640%26amp%3bheight%3d640%26amp%3bfit%3dbounds&f=jpg&w=240)
More from NTT DATA Technology & Innovation
CloudNativePGを動かしてみた！ ～PostgreSQL on Kubernetes～（第34回PostgreSQLアンカンファレンス@オンライン 発表資料）
- 1.© 2022 NTTDATA CorporationCloudNativePGを動かしてみた！～PostgreSQL on Kubernetes~2022年 7月 29日 第34回PostgreSQLアンカンファレンス@オンライン株式会社NTTデータ 技術開発本部加藤 健
- 2.© 2022 NTTDATA Corporation 2自己紹介加藤 健【経歴】• PostgreSQLの研究開発+サポート• 社会人2年目• PostgreSQL歴 1年• Kubernetes歴 半年【これまでのPostgreSQLアンカンファレンス】• 第29回「OSS-DB Gold 合格体験記」
- 3.© 2022 NTTDATA Corporation 3PostgreSQL OperatorとはPostgreSQL Operatorを使うことで、Kubernetes上にPostgreSQLを簡単に構築できる。Kubernetes上でPostgreSQLを動かすことにより、様々な運用管理を自動化できる。KubernetesモニタリングPostgreSQL PostgreSQLPostgreSQLバックアップ ログ管理HA構成 HA構成
- 4.© 2022 NTTDATA Corporation 4PostgreSQL Operator 一覧Kubernetes上での運用が注目され始めており、様々な企業/コミュニティがPostgreSQL Operatorを提供している。今回は、最近リリースされたばかりのCloudNativePGについて調査する。• CloudNativePG (旧称 Cloud Native PostgreSQL)• Zalando Postgres Operator• Crunchy Data PostgreSQL Operator• StackGres• Stolon• KubeDB• Vmware Tanzu SQL with PostgreSQL for Kubernetes
- 5.© 2022 NTTDATA Corporation 5CloudNativePGとはCloudNativePGは、PostgreSQL専業ベンダーであるEnterpriseDBが開発し、OSSとして公開されている。EDB PostgreSQL for Kubernetesは、CloudNativePGをベースに一部機能を追加して提供されている。メイン開発企業 EnterpriseDB初回リリース 2022年4月最新バージョン 1.16.0対応PostgreSQLメジャーバージョンPostgreSQL 10+ライセンス Apache License 2.0スター数 366コントリビュータ数 23商用サポート EDB PostgreSQL for Kubernetesメイン実装言語 Go
- 6.© 2022 NTTDATA Corporation 6CloudNativePGのアーキテクチャCloudNativePGではクライアントからのリクエストをServiceで受け、Podに割り振る。Operator(図中のcnpg-controller-manager)がPodの配置、状態を管理する。Client Requestcluster-example-rw(Service)Client Requestcluster-example-ro(Service)cnpg-controller-manager (Deployment)cluster-example-1(Pod)postgres(Container)cluster-example-2(Pod)postgres(Container)cluster-example-3(Pod)postgres(Container)カスタムリソースの定義に従って管理
- 7.© 2022 NTTDATA Corporation 7確認項目現時点で最新バージョンであるCloudNativePG v1.16.0を動かしてみる。今回の環境として、minikube v1.25.2を使用する。以下の項目について確認する。• CloudNativePGデプロイ• PostgreSQLクラスタ作成• PostgreSQLインスタンスへの接続確認• 同期レプリケーション確認• 自動フェールオーバー• ローリングアップデート
- 8.© 2022 NTTDATA Corporation 8CloudNativePGデプロイCloudNativePGをデプロイする方法は2つ: ①マニフェストを使用する ②Helm Chartを使用する今回は①の方法でCloudNativePGをデプロイする。1. 既に用意されているOperatorのマニフェストを使用し、CloudNativePGをデプロイする。$ kubectl apply -f https://raw.githubusercontent.com/cloudnative-pg/cloudnative-pg/release-1.16/releases/cnpg-1.16.0.yaml2. CloudNativePGがデプロイされたか確認する。$ kubectl get deployments –n cnpg-systemNAME READY UP-TO-DATE AVAILABLE AGEcnpg-controller-manager 1/1 1 1 52s
- 9.© 2022 NTTDATA Corporation 9PostgreSQLクラスタ作成 (1/2)CloudNativePGの機能を使えば、簡単にHA構成のクラスタを作成できる。今回はプライマリx1、同期スタンバイx1 非同期スタンバイx1の3台構成とする。$ vi cluster-example.yamlapiVersion: postgresql.cnpg.io/v1kind: Clustermetadata:name: cluster-example #クラスタ名spec:instances: 3 #インスタンス数imageName: ghcr.io/cloudnative-pg/postgresql:14.3 #イメージの指定minSyncReplicas: 1 #同期レプリケーションの最小数maxSyncReplicas: 1 #同期レプリケーションの最大数primaryUpdateStrategy: unsupervised #アップデート時のプライマリの挙動storage:size: 1Gi #ストレージサイズ1. マニフェストに設定を定義する。
- 10.© 2022 NTTDATA Corporation 10PostgreSQLクラスタ作成 (2/2)CloudNativePGの機能を使えば、簡単にHA構成のクラスタを作成できる。今回はプライマリx1、同期スタンバイx1 非同期スタンバイx1の3台構成とする。$ kubectl apply –f cluster-example.yamlcluster.postgresql.cnpg.io/cluster-example created$ kubectl get allNAME READY STATUS RESTARTS AGEpod/cluster-example-1 1/1 Running 0 71spod/cluster-example-2 1/1 Running 0 56spod/cluster-example-3 1/1 Running 0 47sNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGEservice/cluster-example-any ClusterIP 10.102.86.16 <none> 5432/TCP 75sservice/cluster-example-r ClusterIP 10.109.11.121 <none> 5432/TCP 75sservice/cluster-example-ro ClusterIP 10.111.129.103 <none> 5432/TCP 75sservice/cluster-example-rw ClusterIP 10.100.52.161 <none> 5432/TCP 75sservice/kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 35d2. 定義したマニフェストをもとにPostgreSQLクラスタを作成する。
- 11.© 2022 NTTDATA Corporation 11PostgreSQLインスタンスへの接続確認 (1/3)インスタンスへ接続する方法は3つ: ①コンテナに直接入る ②ポートフォワードを使用する ③Ingressを使用する今回は③の方法でインスタンスへ接続する。$ minikube addons enable ingress1. MinikubeでIngressを有効化する。2. ConfigMapを編集し、Ingressの5432ポートからプライマリにリダイレクトするように設定する。$ kubectl patch configmap tcp-services -n ingress-nginx > --patch '{"data":{"5432":"default/cluster-example-rw:5432"}}'
- 12.© 2022 NTTDATA Corporation 12PostgreSQLインスタンスへの接続確認 (2/3)インスタンスへ接続する方法は3つ: ①コンテナに直接入る ②ポートフォワードを使用する ③Ingressを使用する今回は③の方法でインスタンスへ接続する。$ vi patch.yamlspec:template:spec:containers:- name: controllerports:- containerPort: 5432hostPort: 5432name: postgresprotocol: TCP$ kubectl patch deployment ingress-nginx-controller --patch "$(cat patch.yaml)" -ningress-nginxdeployment.apps/ingress-nginx-controller patched3. 外部からIngressの5432ポートにアクセスできるように編集し、その設定を適用する。
- 13.© 2022 NTTDATA Corporation 13PostgreSQLインスタンスへの接続確認 (3/3)インスタンスへ接続する方法は3つ: ①コンテナに直接入る ②ポートフォワードを使用する ③Ingressを使用する今回は③の方法でインスタンスへ接続する。$ export PGPASSWORD=$(kubectl get secrets cluster-example-app -o go-template='{{.data.password | base64decode}}’)$ psql –h $(minikube ip) –p 5432 –U apppsql (14.1, server 14.3 (Debian 14.3-1.pgdg110+1))SSL connection (protocol: TLSv1.2, cipher: ECDHE-ECDSA-AES256-GCM-SHA384, bits: 256,compression: off)Type "help" for help.app=>4. psqlを使い、プライマリインスタンスへ接続する。
- 14.© 2022 NTTDATA Corporation 14同期レプリケーション確認 (1/2)CloudNativePGでは、クォーラムコミットの同期レプリケーションがサポートされている。$ vi cluster-example.yamlapiVersion: postgresql.cnpg.io/v1kind: Clustermetadata:name: cluster-example #クラスタ名spec:instances: 3 #インスタンス数minSyncReplicas: 1 #同期レプリケーションの最低数maxSyncReplicas: 1 #同期レプリケーションの最大数storage:size: 1Gi #ストレージサイズ1. マニフェストに“minSyncReplicas”と”maxSyncReplicas”を指定し、PostgreSQLクラスタを作成すると、同期レプリケーションが有効化される。(「PostgreSQLクラスタ作成」で実施済み)
- 15.© 2022 NTTDATA Corporation 15同期レプリケーション確認 (2/2)CloudNativePGでは、クォーラムコミットの同期レプリケーションがサポートされている。postgres=# SELECT application_name, state, sync_state FROM pg_stat_replication;application_name | state | sync_state-------------------+-----------+------------cluster-example-2 | streaming | quorumcluster-example-3 | streaming | quorum(2 rows)postgres=# SHOW synchronous_standby_names;synchronous_standby_names-------------------------------------------------ANY 1 ("cluster-example-2","cluster-example-3")(1 row)2. synchronous_standby_namesを確認すると、クォーラムコミットの設定になっている。3. pg_stat_replicationを見てみると、クォーラムコミットで同期レプリケーションされていることが確認できる。
- 16.© 2022 NTTDATA Corporation 16自動フェールオーバー (1/2)多くのOperatorは、Patroniという外部ツールを使い、自動フェールオーバーを実現している。CloudNativePGは、Postgres instance managerという独自ツールを使い実現している。$ kubectl delete pod cluster-example-1pod "cluster-example-1" deleted$ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"n"}{end}’cluster-example-1 primary Runningcluster-example-2 replica Runningcluster-example-3 replica Running1. フェールオーバー前の状態を確認する。2. 今回はPodの障害を想定し、プライマリのPodを削除する
- 17.© 2022 NTTDATA Corporation 17自動フェールオーバー (2/2)多くのOperatorは、Patroniという外部ツールを使い、自動フェールオーバーを実現している。CloudNativePGは、Postgres instance managerという独自ツールを使い実現している。$ ps aux | grep instance26 126048 0.1 0.2 747084 45864 ? Ssl 07:06 0:01 /controller/managerinstance run --log-level=info26 130997 0.2 0.2 747084 41092 ? Ssl 07:21 0:00 /controller/managerinstance run --log-level=info26 131878 3.2 0.2 747340 41940 ? Ssl 07:23 0:00 /controller/manager instancerun --log-level=info$ kill -9 126048$ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"n"}{end}'cluster-example-1 replica Runningcluster-example-2 primary Runningcluster-example-3 replica Running3. 更新系クエリを投げ続けながら実施したが、ダウンタイム10秒ほどで切り替わった。補足: コンテナプロセスに障害を起こした場合も、同様に10秒ほどで切り替わった。
- 18.© 2022 NTTDATA Corporation 18ローリングアップデート (1/3)PostgreSQLのマイナーバージョンアップに際して、ローリングアップデートがサポートされている。全てのスタンバイが1つずつアップデートされた後、プライマリがアップデートされる。$ $ vi cluster-example.yamlapiVersion: postgresql.cnpg.io/v1kind: Clustermetadata:name: cluster-examplespec:instances: 3imageName: ghcr.io/cloudnative-pg/postgresql:14.4 #イメージを14.3 -> 14.4に変更するprimaryUpdateStrategy: unsupervised #アップデート時のプライマリの挙動storage:size: 1Gi1. PostgreSQLクラスタ作成時に定義したマニフェストの、イメージ名を変更する。“primaryUpdateStrategy”を”unsupervised”にすると、スイッチオーバーが自動化される。(“supervised”にすると、手動でスイッチオーバーを実施しなければならない。)
- 19.© 2022 NTTDATA Corporation 19ローリングアップデート (2/3)PostgreSQLのマイナーバージョンアップに際して、ローリングアップデートがサポートされている。全てのスタンバイが1つずつアップデートされた後、プライマリがアップデートされる。2. 変更前の状態を確認する。3. 編集したマニフェストを適用する。$ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"t"}{.spec.containers[].image}{"n"}{end}’cluster-example-1 primary Running ghcr.io/cloudnative-pg/postgresql:14.3cluster-example-2 replica Running ghcr.io/cloudnative-pg/postgresql:14.3cluster-example-3 replica Running ghcr.io/cloudnative-pg/postgresql:14.3$ kubectl apply -f cluster-example.yamlcluster.postgresql.cnpg.io/cluster-example configured
- 20.© 2022 NTTDATA Corporation 20ローリングアップデート (3/3)PostgreSQLのマイナーバージョンアップに際して、ローリングアップデートがサポートされている。全てのスタンバイが1つずつアップデートされた後、プライマリがアップデートされる。4. 新しいイメージに変更され、スイッチオーバーが発生したことが確認できる。$ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"t"}{.spec.containers[].image}{"n"}{end}’cluster-example-1 replica Running ghcr.io/cloudnative-pg/postgresql:14.4cluster-example-2 primary Running ghcr.io/cloudnative-pg/postgresql:14.4cluster-example-3 replica Running ghcr.io/cloudnative-pg/postgresql:14.4補足: 存在しないイメージ(14.5)を指定しアップデートに失敗すると、元のイメージ(14.4)を指定し直しても復旧できなくなる。$ $ kubectl get pods --selector=cnpg.io/cluster=cluster-example -o=jsonpath='{range .items[*]}{.metadata.name}{"t"}{.metadata.labels.role}{"t"}{.status.phase}{"t"}{.spec.containers[].image}{"n"}{end}'cluster-example-1 replica Running ghcr.io/cloudnative-pg/postgresql:14.4cluster-example-2 primary Running ghcr.io/cloudnative-pg/postgresql:14.4cluster-example-3 Pending ghcr.io/cloudnative-pg/postgresql:14.5
- 21.© 2022 NTTDATA Corporation 21まとめ最近リリースされたばかりのCloudNativePG v1.16.0を動かしてみての感想。• ドキュメントがしっかりしていて、初めてでもとっつきやすかった。• 最低限の機能だけでなく、ローリングアップデートなどの仕組みが備わっていてとても高機能な印象を受けた。• クォーラムコミットの同期レプリケーションなど、他のOperatorにない機能がある。• 異常時の挙動についてはまだ検討の余地がありそう。• フェールオーバーの仕組みにPatroniを使っていないので、もう少し詳細にフェールオーバーの仕組み・実装を見てみたい。
- 22.© 2022 NTTDATA Corporationその他、記載されている会社名、商品名、又はサービス名は、各社の登録商標又は商標です。