7.2. Intel Gaudi AI 加速器集成

流程

1. 安装最新版本的 Intel Gaudi AI Accelerator Operator，如 Intel Gaudi AI Operator OpenShift 安装 中所述。

2. 默认情况下，OpenShift 将每个 pod 的 PID 限制设置为 4096。如果您的工作负载需要更多处理能力，如使用多个 Gaudi Accelerator 或将 vLLM 与 Ray 搭配使用时，您必须手动提高每个 pod PID 限制，以避免 资源临时不可用 的错误。这些错误会因为 PID 耗尽而发生。红帽建议将此限制设置为 32768，但超过 20000 的值就足够了。

   1. 运行以下命令来标记节点：

      oc label node <node_name> custom-kubelet=set-pod-pid-limit-kubelet

      Copy to Clipboard Toggle word wrap
   2. 可选： 要防止受影响节点上的工作负载分布，您可以将节点标记为不可调度，然后排空它以准备维护。如需更多信息，请参阅 了解如何在节点上撤离 pod。

   3. 创建 custom-kubelet-pidslimit.yaml KubeletConfig 资源文件：

      oc create -f custom-kubelet-pidslimit.yaml

      Copy to Clipboard Toggle word wrap

   4. 使用以下 YAML 代码填充该文件。将 PodPidsLimit 值设置为 32768 ：

      apiVersion: machineconfiguration.openshift.io/v1
      kind: KubeletConfig
      metadata:
        name: custom-kubelet-pidslimit
      spec:
        kubeletConfig:
          PodPidsLimit: 32768
        machineConfigPoolSelector:
          matchLabels:
            custom-kubelet: set-pod-pid-limit-kubelet

      Copy to Clipboard Toggle word wrap

   5. 应用配置：

      oc apply -f custom-kubelet-pidslimit.yaml

      Copy to Clipboard Toggle word wrap

      此操作会导致节点重新引导。如需更多信息，请参阅了解节点重新引导。

   6. 可选：如果之前将节点标记为不可调度，您可以在节点重启后再次进行调度。
3. 为 Intel Gaudi AI Accelerators 创建自定义工作台镜像，如 创建自定义工作台镜像 中所述。
4. 安装 Intel Gaudi AI Accelerator Operator 后，创建一个硬件配置集，如 使用硬件配置集 中所述。