6.6. 使用 Poison Pill Operator 修复节点


您可以使用 Poison Pill Operator 自动重新引导不健康的节点。此补救策略可最小化有状态应用程序和 ReadWriteOnce (RWO) 卷的停机时间,并在发生临时故障时恢复计算容量。

6.6.1. 关于 Poison Pill Operator

Poison Pill Operator 在集群节点中运行,并重启被识别为不健康的节点。Operator 使用 MachineHealthCheck 控制器来检测集群中节点的健康状况。当节点被识别为不健康时,MachineHealthCheck 资源会创建 PoisonPillRemediation 自定义资源 (CR),这会触发 Poison Pill Operator。

Poison Pill Operator 会最大程度减少有状态应用程序的停机时间,并在发生临时故障时恢复计算容量。无论 IPMI 或 API 等管理界面如何置备节点,都可使用此 Operator 来置备节点,无论集群安装类型是什么,如安装程序置备的基础架构或用户置备的基础架构。

6.6.1.1. 了解 Poison Pill Operator 配置

Poison Pill Operator 在 Poison Pill Operator 命名空间中创建 PoisonPillConfig CR,名称为 poison-pill-config。您可以编辑这个 CR。但是,您无法为 Poison Pill Operator 创建新 CR。

PoisonPillConfig CR 中的更改会重新创建 Poison Pill 守护进程集。

PoisonPillConfig CR 类似以下 YAML 文件:

apiVersion: poison-pill.medik8s.io/v1alpha1
kind: PoisonPillConfig
metadata:
  name: poison-pill-config
  namespace: openshift-operators
spec:
  safeTimeToAssumeNodeRebootedSeconds: 180 1
  watchdogFilePath: /test/watchdog1 2
  isSoftwareRebootEnabled: true 3
  apiServerTimeout: 15s 4
  apiCheckInterval: 5s 5
  maxApiErrorThreshold: 3 6
  peerApiServerTimeout: 5s 7
  peerDialTimeout: 5s 8
  peerRequestTimeout: 5s 9
  peerUpdateInterval: 15m 10
1
指定存活对等点的超时持续时间,然后 Operator 可以假定一个不健康的节点已被重启。Operator 自动计算这个值的下限。但是,如果不同的节点有不同的 watchdog 超时,则必须将此值改为更高的值。
2
指定节点中 watchdog 设备的文件路径。如果您输入了到 watchdog 设备的错误路径,Poison Pill Operator 会自动检测到 softdog 设备路径。

如果 watchdog 设备不可用,PisonPillConfig CR 将使用软件重新引导。

3
指定是否启用不健康节点的软件重启。默认情况下,SoftwareRebootEnabled 的值设置为 true。要禁用软件重启,请将参数设置为 false
4
指定检查每个 API 服务器的连接的超时持续时间。此超过了此持续时间,Operator 会启动补救。
5
指定检查每个 API 服务器的连接的频率。
6
指定一个阈值。达到这个阈值后,节点开始联系其同级服务器。
7
指定连接 API 服务器的对等的超时持续时间。
8
指定与 peer 建立连接的超时持续时间。
9
指定从 peer 获取响应的超时时间。
10
指定更新对等信息的频率,如 IP 地址。

6.6.1.2. 了解 Poison Pill Remediation 模板配置

Poison Pill Operator 还会在 Poison Pill Operator 命名空间中创建 PoisonPillRemediationTemplate CR,其名称为 poison-pill-default-template。此 CR 为节点定义补救策略。

默认补救策略是 NodeDeletion,它会删除节点对象。在 OpenShift Container Platform 4.10 中,Poison Pill Operator 引入了一个新的补救策略,称为 ResourceDeletionResourceDeletion 补救策略会删除节点上的 pod 和关联的卷附加,而不是节点对象。此策略有助于更快地恢复工作负载。

PoisonPillRemediationTemplate CR 类似于以下 YAML 文件:

apiVersion: poison-pill.medik8s.io/v1alpha1
kind: PoisonPillRemediationTemplate
metadata:
  creationTimestamp: "2022-03-02T08:02:40Z"
  generation: 1
  name: poison-pill-default-template
  namespace: openshift-operators
  resourceVersion: "596469"
  uid: 5d29e437-c485-48fa-ba9e-0354649afd31
spec:
  template:
    spec:
      remediationStrategy: NodeDeletion 1
1
指定补救策略。默认补救策略是 NodeDeletion

6.6.1.3. 关于 watchdog 设备

watchdog 设备可以是以下任意一种:

  • 独立电源的硬件设备
  • 与它们控制的主机共享电源的硬件设备
  • 软件或 softdog中实施的虚拟设备

硬件 watchdog 和 softdog 设备分别具有电子计时器和软件计时器。这些 watchdog 设备用于确保在检测到错误条件时机器进入安全状态。集群需要重复重置 watchdog 定时器以证明它处于健康状态。此计时器可能会因为出现错误条件而造成问题,如死锁、CPU 不足以及网络或磁盘访问的丢失。如果计时器过期,watchdog 设备会假设发生了错误,设备会触发强制重置节点。

硬件 watchdog 设备比 softdog 设备更可靠。

6.6.1.3.1. 了解使用 watchdog 设备的 Poison Pill Operator 行为

Poison Pill Operator 根据存在的 watchdog 设备决定补救策略。

如果配置了硬件 watchdog 设备并可用,Operator 会使用它进行补救。如果没有配置硬件 watchdog 设备,Operator 会启用并使用 softdog 设备进行补救。

如果既不支持 watchdog 设备,无论是系统或配置,Operator 都会使用软件重启来修复节点。

其他资源

配置 watchdog

6.6.2. 使用 Web 控制台安装 Poison Pill Operator

您可以使用 OpenShift Container Platform Web 控制台安装 Poison Pill Operator。

先决条件

  • 以具有 cluster-admin 特权的用户身份登录。

流程

  1. 在 OpenShift Container Platform Web 控制台中导航至 Operators OperatorHub
  2. 从可用 Operator 列表中搜索 Poison Pill Operator,然后单击 Install
  3. 保留安装模式命名空间的默认选择,以确保将 Operator 安装到 openshift-operators 命名空间中。
  4. Install

验证

确认安装成功:

  1. 进入到 Operators Installed Operators 页面。
  2. 检查 Operator 是否安装在 openshift-operators 命名空间中,其状态是否为 Succeeded

如果 Operator 没有成功安装:

  1. 导航到 Operators Installed Operators 页面,并检查 Status 列中是否有任何错误或故障。
  2. 进入 Workloads Pods 页面,检查 poison-pill-controller-manager 项目中报告问题的 pod 的日志。

6.6.3. 使用 CLI 安装 Poison Pill Operator

您可以使用 OpenShift CLI (oc) 安装 Poison Pill Operator。

您可以在自己的命名空间中或 openshift-operators 命名空间中安装 Poison Pill Operator。

要在您自己的命名空间中安装 Operator,请按照以下步骤执行。

要在 openshift-operators 命名空间中安装 Operator,请跳至步骤 3,因为需要新的 Namespace 自定义资源(CR)和 OperatorGroup CR 的步骤。

先决条件

  • 安装 OpenShift CLI(oc)。
  • 以具有 cluster-admin 特权的用户身份登录。

流程

  1. 为 Poison Pill Operator 创建 Namespace 自定义资源(CR):

    1. 定义 Namespace CR 并保存 YAML 文件,如 poison-pill-namespace.yaml

      apiVersion: v1
      kind: Namespace
      metadata:
        name: poison-pill
    2. 要创建 Namespace CR,请运行以下命令:

      $ oc create -f poison-pill-namespace.yaml
  2. 创建 OperatorGroup CR:

    1. 定义 OperatorGroup CR 并保存 YAML 文件,如 poison-pill-operator-group.yaml

      apiVersion: operators.coreos.com/v1
      kind: OperatorGroup
      metadata:
        name: poison-pill-manager
        namespace: poison-pill
    2. 要创建 OperatorGroup CR,请运行以下命令:

      $ oc create -f poison-pill-operator-group.yaml
  3. 创建一个 Subscription CR:

    1. 定义 Subscription CR 并保存 YAML 文件,如 poison-pill-subscription.yaml

      apiVersion: operators.coreos.com/v1alpha1
      kind: Subscription
      metadata:
          name: poison-pill-manager
          namespace: poison-pill 1
      spec:
          channel: stable
          installPlanApproval: Manual 2
          name: poison-pill-manager
          source: redhat-operators
          sourceNamespace: openshift-marketplace
          package: poison-pill-manager
      1
      指定您要安装 Poison Pill Operator 的命名空间。要在 openshift-operators 命名空间中安装 Poison Pill Operator,请在 Subscription CR 中指定 openshift-operators
      2
      如果您的指定版本被目录中的后续版本取代,则将批准策略设置为 Manual。此计划阻止自动升级到更新的版本,且需要在启动 CSV 可以完成安装前手动批准。
    2. 要创建 Subscription CR,请运行以下命令:

      $ oc create -f poison-pill-subscription.yaml

验证

  1. 检查 CSV 资源来验证安装是否成功:

    $ oc get csv -n poison-pill

    输出示例

    NAME                   DISPLAY                 VERSION   REPLACES    PHASE
    poison-pill.v.0.2.0     Poison Pill Operator    0.2.0                 Succeeded

  2. 验证 Poison Pill Operator 是否正在运行:

    $ oc get deploy -n poison-pill

    输出示例

    NAME                                 READY   UP-TO-DATE   AVAILABLE   AGE
    poison-pill-controller-manager       1/1     1            1           10d

  3. 验证 Poison Pill Operator 是否创建了 PoisonPillConfig CR:

    $ oc get PoisonPillConfig -n poison-pill

    输出示例

    NAME                 AGE
    poison-pill-config   10d

  4. 验证每个就绪的 pill pod 是否已调度并在每个 worker 节点上运行:

    $ oc get daemonset -n poison-pill

    输出示例

    NAME             DESIRED   CURRENT   READY   UP-TO-DATE   AVAILABLE   NODE SELECTOR   AGE
    poison-pill-ds   2         2         2       2            2           <none>          10d

    注意

    control plane 节点不支持这个命令。

6.6.4. 配置机器健康检查以使用 Poison Pill Operator

使用以下步骤将机器健康检查配置为使用 Poison Pill Operator 作为补救供应商。

先决条件

  • 安装 OpenShift CLI(oc)。
  • 以具有 cluster-admin 特权的用户身份登录。

流程

  1. 创建一个 PoisonPillRemediationTemplate CR:

    1. 定义 PoisonPillRemediationTemplate CR:

      apiVersion: poison-pill.medik8s.io/v1alpha1
      kind: PoisonPillRemediationTemplate
      metadata:
        namespace: openshift-machine-api
        name: poisonpillremediationtemplate-sample
      spec:
        template:
          spec: {}
    2. 要创建 PoisonPillRemediationTemplate CR,请运行以下命令:

      $ oc create -f <ppr-name>.yaml
  2. 创建或更新 MachineHealthCheck CR 以指向 PoisonPillRemediationTemplate CR:

    1. 定义或更新 MachineHealthCheck CR:

      apiVersion: machine.openshift.io/v1beta1
      kind: MachineHealthCheck
      metadata:
        name: machine-health-check
        namespace: openshift-machine-api
      spec:
        selector:
          matchLabels:
            machine.openshift.io/cluster-api-machine-role: "worker"
            machine.openshift.io/cluster-api-machine-type: "worker"
        unhealthyConditions:
        - type:    "Ready"
          timeout: "300s"
          status: "False"
        - type:    "Ready"
          timeout: "300s"
          status: "Unknown"
        maxUnhealthy: "40%"
        nodeStartupTimeout: "10m"
        remediationTemplate: 1
          kind: PoisonPillRemediationTemplate
          apiVersion: poison-pill.medik8s.io/v1alpha1
          name: poisonpillremediationtemplate-sample
      1
      指定补救模板的详细信息。
    2. 要创建 MachineHealthCheck CR,请运行以下命令:

      $ oc create -f <file-name>.yaml
    3. 要更新 MachineHealthCheck CR,请运行以下命令:

      $ oc apply -f <file-name>.yaml

6.6.5. 对 Poison Pill Operator 进行故障排除

6.6.5.1. 常规故障排除

问题
您需要对 Poison Pill Operator 的问题进行故障排除。
解决方案
检查 Operator 日志。

6.6.5.2. 检查守护进程集

问题
已安装 Poison Pill Operator,但守护进程集不可用。
解决方案
检查 Operator 日志中的错误或警告。

6.6.5.3. 失败的补救

问题
一个不健康的节点没有被修复。
解决方案

运行以下命令验证 PoisonPillRemediation CR 是否已创建:

$ oc get ppr -A

如果 MachineHealthCheck 控制器在节点关闭不健康时没有创建 PoisonPillRemediation CR,请检查 MachineHealthCheck 控制器的日志。此外,请确保 MachineHealthCheck CR 包含使用补救模板所需的规范。

如果创建了 PoisonPillRemediation CR,请确保其名称与不健康节点或机器对象匹配。

6.6.5.4. 在卸载 Poison Pill Operator 后,守护进程集和其他 Poison Pill Operator 资源也存在

问题
即使卸载 Operator 后,会存在 Poison Pill Operator 资源,如守护进程集、配置 CR 和补救模板 CR。
解决方案

要删除 Poison Pill Operator 资源,请运行以下命令删除每种资源类型的资源:

$ oc delete ds <poison-pill-ds> -n <namespace>
$ oc delete ppc <poison-pill-config> -n <namespace>
$ oc delete pprt <poison-pill-remediation-template> -n <namespace>

6.6.6. 收集 Poison Pill Operator 的数据

要收集有关 Poison Pill Operator 的调试信息,请使用 must-gather 工具。有关 Poison Pill Operator 的 must-gather 镜像的信息,请参阅收集特定功能的数据

6.6.7. 其他资源

Red Hat logoGithubRedditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.

關於紅帽

我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。

© 2024 Red Hat, Inc.