4.8. Ceph 对象网关的高可用性
作为存储管理员,您可以将多个 Ceph 对象网关实例分配到一个区域。这样,您可以随着负载的增加而横向扩展,即同一个 zone group 和 zone;但是,您不需要联合架构才能使用高可用性代理。由于每个 Ceph 对象网关守护进程都有自己的 IP 地址,因此您可以使用 入口 服务在多个 Ceph 对象网关守护进程或节点间平衡负载。ingress 服务管理 Ceph 对象网关环境的 HAProxy 和 keepalived 守护进程。您还可以在 HAProxy 服务器上终止 HTTPS 流量,并在 HAProxy 服务器和 Beast 前端 web 服务器实例之间使用 HTTP。
先决条件
- 至少在不同主机上运行两个 Ceph 对象网关守护进程。
-
至少在不同主机上运行的
ingress服务实例的容量。
4.8.1. 高可用性服务 复制链接链接已复制到粘贴板!
ingress 服务为 Ceph 对象网关提供高可用性端点。ingress 服务可以根据需要部署到任意数量的主机上。红帽建议至少有两个支持的 Red Hat Enterprise Linux 服务器,每个服务器都配置了 ingress 服务。您可以使用最小配置选项运行高可用性(HA)服务。Ceph 编配器通过通过浮动虚拟 IP 地址提供负载平衡来部署 入口 服务,该服务管理 haproxy 和 keepalived 守护进程。活跃的 haproxy 将所有 Ceph 对象网关请求分发到所有可用的 Ceph 对象网关守护进程。
虚拟 IP 地址一次在其中一个 入口 主机上自动配置,称为主主机。Ceph 编配器根据配置为同一子网一部分的现有 IP 地址选择第一个网络接口。如果虚拟 IP 地址不属于同一子网,您可以为 Ceph 编配器定义子网列表,以便与现有的 IP 地址匹配。如果 keepalived 守护进程和活跃 haproxy 没有在主主机上响应,则虚拟 IP 地址将变为备份主机。此备份主机成为新的主主机。
目前,您无法在没有配置 IP 地址的网络接口中配置虚拟 IP 地址。
要使用安全套接字层(SSL),SSL 必须由 ingress 服务终止,而不是在 Ceph 对象网关中终止。
4.8.2. 为 Ceph 对象网关配置高可用性 复制链接链接已复制到粘贴板!
要为 Ceph 对象网关配置高可用性(HA),您可以编写 YAML 配置文件,Ceph 编配器执行 入口 服务的安装、配置和管理。ingress 服务使用 haproxy 和 keepalived 守护进程为 Ceph 对象网关提供高可用性。
先决条件
-
至少两个运行 Red Hat Enterprise Linux 8 或更高版本的主机,用于在其上安装
ingress服务。 - 一个正常运行的 Red Hat Ceph Storage 集群。
- 至少在不同主机上运行的两个 Ceph 对象网关守护进程。
-
对运行
入口服务的主机的根级别访问权限。 - 如果使用防火墙,则打开 HTTP 的端口 80,为 HTTPS 流量打开端口 443。
流程
创建新的
ingress.yaml文件:示例
[root@host01 ~] touch ingress.yaml打开
ingress.yaml文件进行编辑。添加了以下选项,并添加适用于环境的值:语法
service_type: ingress1 service_id: SERVICE_ID2 placement:3 hosts: - HOST1 - HOST2 - HOST3 spec: backend_service: SERVICE_ID virtual_ip: IP_ADDRESS/CIDR4 frontend_port: INTEGER5 monitor_port: INTEGER6 virtual_interface_networks:7 - IP_ADDRESS/CIDR ssl_cert: |8 示例
service_type: ingress service_id: rgw.foo placement: hosts: - host01.example.com - host02.example.com - host03.example.com spec: backend_service: rgw.foo virtual_ip: 192.168.1.2/24 frontend_port: 8080 monitor_port: 1967 virtual_interface_networks: - 10.10.0.0/16 ssl_cert: | -----BEGIN CERTIFICATE----- MIIEpAIBAAKCAQEA+Cf4l9OagD6x67HhdCy4Asqw89Zz9ZuGbH50/7ltIMQpJJU0 gu9ObNtIoC0zabJ7n1jujueYgIpOqGnhRSvsGJiEkgN81NLQ9rqAVaGpadjrNLcM bpgqJCZj0vzzmtFBCtenpb5l/EccMFcAydGtGeLP33SaWiZ4Rne56GBInk6SATI/ JSKweGD1y5GiAWipBR4C74HiAW9q6hCOuSdp/2WQxWT3T1j2sjlqxkHdtInUtwOm j5Ism276IndeQ9hR3reFR8PJnKIPx73oTBQ7p9CMR1J4ucq9Ny0J12wQYT00fmJp -----END CERTIFICATE----- -----BEGIN PRIVATE KEY----- MIIEBTCCAu2gAwIBAgIUGfYFsj8HyA9Zv2l600hxzT8+gG4wDQYJKoZIhvcNAQEL BQAwgYkxCzAJBgNVBAYTAklOMQwwCgYDVQQIDANLQVIxDDAKBgNVBAcMA0JMUjEM MAoGA1UECgwDUkhUMQswCQYDVQQLDAJCVTEkMCIGA1UEAwwbY2VwaC1zc2wtcmhj czUtOGRjeHY2LW5vZGU1MR0wGwYJKoZIhvcNAQkBFg5hYmNAcmVkaGF0LmNvbTAe -----END PRIVATE KEY-----启动 Cephadm shell:
示例
[root@host01 ~]# cephadm shell --mount ingress.yaml:/var/lib/ceph/radosgw/ingress.yaml配置最新的
haproxy和keepalived镜像:语法
ceph config set mgr mgr/cephadm/container_image_haproxy HAPROXY_IMAGE_ID ceph config set mgr mgr/cephadm/container_image_keepalived KEEPALIVED_IMAGE_IDRed Hat Enterprise Linux 8
[ceph: root@host01 /]# ceph config set mgr mgr/cephadm/container_image_haproxy registry.redhat.io/rhceph/rhceph-haproxy-rhel8:latest [ceph: root@host01 /]# ceph config set mgr mgr/cephadm/container_image_keepalived registry.redhat.io/rhceph/keepalived-rhel8:latestRed Hat Enterprise Linux 9
[ceph: root@host01 /]# ceph config set mgr mgr/cephadm/container_image_haproxy registry.redhat.io/rhceph/rhceph-haproxy-rhel9:latest [ceph: root@host01 /]# ceph config set mgr mgr/cephadm/container_image_keepalived registry.redhat.io/rhceph/keepalived-rhel9:latest使用 Ceph 编配器安装和配置新的
入口服务:[ceph: root@host01 /]# ceph orch apply -i /var/lib/ceph/radosgw/ingress.yamlCeph 编配器完成后,验证 HA 配置。
在运行
ingress服务的主机上,检查是否显示虚拟 IP 地址:示例
[root@host01 ~]# ip addr show尝试从 Ceph 客户端访问 Ceph 对象网关:
语法
wget HOST_NAME示例
[root@client ~]# wget host01.example.com如果返回包含类似内容的
index.html,则 Ceph 对象网关的 HA 配置可以正常工作。示例
<?xml version="1.0" encoding="UTF-8"?> <ListAllMyBucketsResult xmlns="http://s3.amazonaws.com/doc/2006-03-01/"> <Owner> <ID>anonymous</ID> <DisplayName></DisplayName> </Owner> <Buckets> </Buckets> </ListAllMyBucketsResult>