5.8. 恢复 OpenShift Data Foundation 扩展集群

流程

1. 创建 NetworkFence CR 以隔离停机的存储节点的 IP。

   1. 获取需要隔离的 NodeName ：

      $ oc get node

   2. 获取与上一步中找到的节点对应的 csiaddonsnode 对象：

      $ oc get csiaddonsnode -n openshift-storage |grep -i <nodename> |grep -i daemonset

   3. 从上一步中找到的 csiaddonsnode 对象获取 IP 地址，并创建 NetworkFence CR，并确保它处于 Fenced 状态：

      $ oc get csiaddonsnode <csi-addons-name> -o jsonpath='{.status.networkFenceClientStatus}'
      [{"ClientDetails":[{"cidrs":["10.244.0.1/32"],"id":"a815fe8e-eabd-4e87-a6e8-78cebfb67d08"}],"networkFenceClassName":"networkfenceclass-sample"}]

      将 <csi-addons-name > 替换为上一步中找到的 csiaddonsnode 对象。

   4. 使用 OpenShift 节点名称为上述 CIDR 创建 NetworkFence CR 以便轻松识别：

      apiVersion: csiaddons.openshift.io/v1alpha1
      kind: NetworkFence
      metadata:
        name: <openshift-node-name>
      spec:
        cidrs:
        - 10.244.0.1/32
        driver: openshift-storage.rbd.csi.ceph.com
        fenceState: Fenced
        parameters:
          clusterID: openshift-storage
        secret:
          name: rook-csi-rbd-provisioner
          namespace: openshift-storage

      • parameters.clusterID : 指定集群 ID，可以从 ocs-storagecluster-ceph-rbd storageclass 中的 parameter.clusterID 获取。
      • secret.name: 指定网络隔离操作所需的 secret 名称。这可以从 ocs-storagecluster-ceph-rbd storageclass 中的 parameters.csi.storage.k8s.io/provisioner-secret-name 获取。
      • secret.namespace: 指定 secret 所在的命名空间。这可以从 parameters.csi.storage.k8s.io/provisioner-secret-namespace'in 'ocs-storagecluster-ceph-rbd storageclass 获取。

   5. 验证网络隔离是否已成功完成：

      $ oc get networkfence

      输出示例：

      NAME      DRIVER                       CIDRS               FENCESTATE   AGE   RESULT
      <openshift-node-name>   openshift-storage.rbd.csi.ceph.com   ["10.244.0.1/32"]   Fenced     42h   Succeeded

2. 为停机的节点添加污点：

   $ oc adm taint nodes <node-name> node.kubernetes.io/out-of-service=nodeshutdown:NoExecute

3. 监控应用程序重新定位到存活节点。

   对所有节点执行上述步骤。

1. 在 CR 中将 NetworkFence 状态更改为 UnFenced，并等待它变为 unfenced

   1. 将 NetworkFence 设置为 UnFenced ：

      $ oc patch networkfence <network-fence-object-name> -p '{"spec":{"fenceState":"Unfenced"}}' --type=merge

   2. 验证 Network UnFencing 是否已成功完成：

      $ oc get networkfence

      输出示例：

      NAME      DRIVER                       CIDRS               FENCESTATE   AGE   RESULT
      <openshift-node-name>   openshift-storage.rbd.csi.ceph.com   ["10.244.0.1/32"]   unfenced     42h   Succeeded

2. 重新引导节点。

3. 取消污点的节点：

   $ oc adm taint nodes <node-name> node.kubernetes.io/out-of-service=nodeshutdown:NoExecute-

   对所有节点重复这些步骤。