6.6. 使用 Poison Pill Operator 修复节点
您可以使用 Poison Pill Operator 自动重新引导不健康的节点。此补救策略可最小化有状态应用程序和 ReadWriteOnce (RWO) 卷的停机时间,并在发生临时故障时恢复计算容量。
6.6.1. 关于 Poison Pill Operator
Poison Pill Operator 在集群节点中运行,并重启被识别为不健康的节点。Operator 使用 MachineHealthCheck
控制器来检测集群中节点的健康状况。当节点被识别为不健康时,MachineHealthCheck
资源会创建 PoisonPillRemediation
自定义资源 (CR),这会触发 Poison Pill Operator。
Poison Pill Operator 会最大程度减少有状态应用程序的停机时间,并在发生临时故障时恢复计算容量。无论 IPMI 或 API 等管理界面如何置备节点,都可使用此 Operator 来置备节点,无论集群安装类型是什么,如安装程序置备的基础架构或用户置备的基础架构。
6.6.1.1. 了解 Poison Pill Operator 配置
Poison Pill Operator 在 Poison Pill Operator 命名空间中创建 PoisonPillConfig
CR,名称为 poison-pill-config
。您可以编辑这个 CR。但是,您无法为 Poison Pill Operator 创建新 CR。
PoisonPillConfig
CR 中的更改会重新创建 Poison Pill 守护进程集。
PoisonPillConfig
CR 类似以下 YAML 文件:
apiVersion: poison-pill.medik8s.io/v1alpha1 kind: PoisonPillConfig metadata: name: poison-pill-config namespace: openshift-operators spec: safeTimeToAssumeNodeRebootedSeconds: 180 1 watchdogFilePath: /test/watchdog1 2 isSoftwareRebootEnabled: true 3 apiServerTimeout: 15s 4 apiCheckInterval: 5s 5 maxApiErrorThreshold: 3 6 peerApiServerTimeout: 5s 7 peerDialTimeout: 5s 8 peerRequestTimeout: 5s 9 peerUpdateInterval: 15m 10
- 1
- 指定存活对等点的超时持续时间,然后 Operator 可以假定一个不健康的节点已被重启。Operator 自动计算这个值的下限。但是,如果不同的节点有不同的 watchdog 超时,则必须将此值改为更高的值。
- 2
- 指定节点中 watchdog 设备的文件路径。如果您输入了到 watchdog 设备的错误路径,Poison Pill Operator 会自动检测到 softdog 设备路径。
如果 watchdog 设备不可用,
PisonPillConfig
CR 将使用软件重新引导。 - 3
- 指定是否启用不健康节点的软件重启。默认情况下,
SoftwareRebootEnabled
的值设置为true
。要禁用软件重启,请将参数设置为false
。 - 4
- 指定检查每个 API 服务器的连接的超时持续时间。此超过了此持续时间,Operator 会启动补救。
- 5
- 指定检查每个 API 服务器的连接的频率。
- 6
- 指定一个阈值。达到这个阈值后,节点开始联系其同级服务器。
- 7
- 指定连接 API 服务器的对等的超时持续时间。
- 8
- 指定与 peer 建立连接的超时持续时间。
- 9
- 指定从 peer 获取响应的超时时间。
- 10
- 指定更新对等信息的频率,如 IP 地址。
6.6.1.2. 了解 Poison Pill Remediation 模板配置
Poison Pill Operator 还会在 Poison Pill Operator 命名空间中创建 PoisonPillRemediationTemplate
CR,其名称为 poison-pill-default-template
。此 CR 为节点定义补救策略。
默认补救策略是 NodeDeletion
,它会删除节点
对象。在 OpenShift Container Platform 4.10 中,Poison Pill Operator 引入了一个新的补救策略,称为 ResourceDeletion
。ResourceDeletion
补救策略会删除节点上的 pod 和关联的卷附加,而不是节点
对象。此策略有助于更快地恢复工作负载。
PoisonPillRemediationTemplate
CR 类似于以下 YAML 文件:
apiVersion: poison-pill.medik8s.io/v1alpha1
kind: PoisonPillRemediationTemplate
metadata:
creationTimestamp: "2022-03-02T08:02:40Z"
generation: 1
name: poison-pill-default-template
namespace: openshift-operators
resourceVersion: "596469"
uid: 5d29e437-c485-48fa-ba9e-0354649afd31
spec:
template:
spec:
remediationStrategy: NodeDeletion 1
- 1
- 指定补救策略。默认补救策略是
NodeDeletion
。
6.6.1.3. 关于 watchdog 设备
watchdog 设备可以是以下任意一种:
- 独立电源的硬件设备
- 与它们控制的主机共享电源的硬件设备
-
软件或
softdog
中实施的虚拟设备
硬件 watchdog 和 softdog
设备分别具有电子计时器和软件计时器。这些 watchdog 设备用于确保在检测到错误条件时机器进入安全状态。集群需要重复重置 watchdog 定时器以证明它处于健康状态。此计时器可能会因为出现错误条件而造成问题,如死锁、CPU 不足以及网络或磁盘访问的丢失。如果计时器过期,watchdog 设备会假设发生了错误,设备会触发强制重置节点。
硬件 watchdog 设备比 softdog
设备更可靠。
6.6.1.3.1. 了解使用 watchdog 设备的 Poison Pill Operator 行为
Poison Pill Operator 根据存在的 watchdog 设备决定补救策略。
如果配置了硬件 watchdog 设备并可用,Operator 会使用它进行补救。如果没有配置硬件 watchdog 设备,Operator 会启用并使用 softdog
设备进行补救。
如果既不支持 watchdog 设备,无论是系统或配置,Operator 都会使用软件重启来修复节点。
其他资源
6.6.2. 使用 Web 控制台安装 Poison Pill Operator
您可以使用 OpenShift Container Platform Web 控制台安装 Poison Pill Operator。
先决条件
-
以具有
cluster-admin
特权的用户身份登录。
流程
-
在 OpenShift Container Platform Web 控制台中导航至 Operators
OperatorHub。 - 从可用 Operator 列表中搜索 Poison Pill Operator,然后单击 Install。
-
保留安装模式和命名空间的默认选择,以确保将 Operator 安装到
openshift-operators
命名空间中。 - 点 Install。
验证
确认安装成功:
-
进入到 Operators
Installed Operators 页面。 -
检查 Operator 是否安装在
openshift-operators
命名空间中,其状态是否为Succeeded
。
如果 Operator 没有成功安装:
-
导航到 Operators
Installed Operators 页面,并检查 Status
列中是否有任何错误或故障。 -
进入 Workloads
Pods 页面,检查 poison-pill-controller-manager
项目中报告问题的 pod 的日志。
6.6.3. 使用 CLI 安装 Poison Pill Operator
您可以使用 OpenShift CLI (oc
) 安装 Poison Pill Operator。
您可以在自己的命名空间中或 openshift-operators
命名空间中安装 Poison Pill Operator。
要在您自己的命名空间中安装 Operator,请按照以下步骤执行。
要在 openshift-operators
命名空间中安装 Operator,请跳至步骤 3,因为需要新的 Namespace
自定义资源(CR)和 OperatorGroup
CR 的步骤。
先决条件
-
安装 OpenShift CLI(
oc
)。 -
以具有
cluster-admin
特权的用户身份登录。
流程
为 Poison Pill Operator 创建
Namespace
自定义资源(CR):定义
Namespace
CR 并保存 YAML 文件,如poison-pill-namespace.yaml
:apiVersion: v1 kind: Namespace metadata: name: poison-pill
要创建
Namespace
CR,请运行以下命令:$ oc create -f poison-pill-namespace.yaml
创建
OperatorGroup
CR:定义
OperatorGroup
CR 并保存 YAML 文件,如poison-pill-operator-group.yaml
:apiVersion: operators.coreos.com/v1 kind: OperatorGroup metadata: name: poison-pill-manager namespace: poison-pill
要创建
OperatorGroup
CR,请运行以下命令:$ oc create -f poison-pill-operator-group.yaml
创建一个
Subscription
CR:定义
Subscription
CR 并保存 YAML 文件,如poison-pill-subscription.yaml
:apiVersion: operators.coreos.com/v1alpha1 kind: Subscription metadata: name: poison-pill-manager namespace: poison-pill 1 spec: channel: stable installPlanApproval: Manual 2 name: poison-pill-manager source: redhat-operators sourceNamespace: openshift-marketplace package: poison-pill-manager
要创建
Subscription
CR,请运行以下命令:$ oc create -f poison-pill-subscription.yaml
验证
检查 CSV 资源来验证安装是否成功:
$ oc get csv -n poison-pill
输出示例
NAME DISPLAY VERSION REPLACES PHASE poison-pill.v.0.2.0 Poison Pill Operator 0.2.0 Succeeded
验证 Poison Pill Operator 是否正在运行:
$ oc get deploy -n poison-pill
输出示例
NAME READY UP-TO-DATE AVAILABLE AGE poison-pill-controller-manager 1/1 1 1 10d
验证 Poison Pill Operator 是否创建了
PoisonPillConfig
CR:$ oc get PoisonPillConfig -n poison-pill
输出示例
NAME AGE poison-pill-config 10d
验证每个就绪的 pill pod 是否已调度并在每个 worker 节点上运行:
$ oc get daemonset -n poison-pill
输出示例
NAME DESIRED CURRENT READY UP-TO-DATE AVAILABLE NODE SELECTOR AGE poison-pill-ds 2 2 2 2 2 <none> 10d
注意control plane 节点不支持这个命令。
6.6.4. 配置机器健康检查以使用 Poison Pill Operator
使用以下步骤将机器健康检查配置为使用 Poison Pill Operator 作为补救供应商。
先决条件
-
安装 OpenShift CLI(
oc
)。 -
以具有
cluster-admin
特权的用户身份登录。
流程
创建一个
PoisonPillRemediationTemplate
CR:定义
PoisonPillRemediationTemplate
CR:apiVersion: poison-pill.medik8s.io/v1alpha1 kind: PoisonPillRemediationTemplate metadata: namespace: openshift-machine-api name: poisonpillremediationtemplate-sample spec: template: spec: {}
要创建
PoisonPillRemediationTemplate
CR,请运行以下命令:$ oc create -f <ppr-name>.yaml
创建或更新
MachineHealthCheck
CR 以指向PoisonPillRemediationTemplate
CR:定义或更新
MachineHealthCheck
CR:apiVersion: machine.openshift.io/v1beta1 kind: MachineHealthCheck metadata: name: machine-health-check namespace: openshift-machine-api spec: selector: matchLabels: machine.openshift.io/cluster-api-machine-role: "worker" machine.openshift.io/cluster-api-machine-type: "worker" unhealthyConditions: - type: "Ready" timeout: "300s" status: "False" - type: "Ready" timeout: "300s" status: "Unknown" maxUnhealthy: "40%" nodeStartupTimeout: "10m" remediationTemplate: 1 kind: PoisonPillRemediationTemplate apiVersion: poison-pill.medik8s.io/v1alpha1 name: poisonpillremediationtemplate-sample
- 1
- 指定补救模板的详细信息。
要创建
MachineHealthCheck
CR,请运行以下命令:$ oc create -f <file-name>.yaml
要更新
MachineHealthCheck
CR,请运行以下命令:$ oc apply -f <file-name>.yaml
6.6.5. 对 Poison Pill Operator 进行故障排除
6.6.5.1. 常规故障排除
- 问题
- 您需要对 Poison Pill Operator 的问题进行故障排除。
- 解决方案
- 检查 Operator 日志。
6.6.5.2. 检查守护进程集
- 问题
- 已安装 Poison Pill Operator,但守护进程集不可用。
- 解决方案
- 检查 Operator 日志中的错误或警告。
6.6.5.3. 失败的补救
- 问题
- 一个不健康的节点没有被修复。
- 解决方案
运行以下命令验证
PoisonPillRemediation
CR 是否已创建:$ oc get ppr -A
如果
MachineHealthCheck
控制器在节点关闭不健康时没有创建PoisonPillRemediation
CR,请检查MachineHealthCheck
控制器的日志。此外,请确保MachineHealthCheck
CR 包含使用补救模板所需的规范。如果创建了
PoisonPillRemediation
CR,请确保其名称与不健康节点或机器对象匹配。
6.6.5.4. 在卸载 Poison Pill Operator 后,守护进程集和其他 Poison Pill Operator 资源也存在
- 问题
- 即使卸载 Operator 后,会存在 Poison Pill Operator 资源,如守护进程集、配置 CR 和补救模板 CR。
- 解决方案
要删除 Poison Pill Operator 资源,请运行以下命令删除每种资源类型的资源:
$ oc delete ds <poison-pill-ds> -n <namespace>
$ oc delete ppc <poison-pill-config> -n <namespace>
$ oc delete pprt <poison-pill-remediation-template> -n <namespace>
6.6.6. 收集 Poison Pill Operator 的数据
要收集有关 Poison Pill Operator 的调试信息,请使用 must-gather
工具。有关 Poison Pill Operator 的 must-gather
镜像的信息,请参阅收集特定功能的数据。
6.6.7. 其他资源
- 受限网络环境中支持 Poison Pill Operator。如需更多信息,请参阅在受限网络中使用 Operator Lifecycle Manager。
- 从集群中删除 Operator