18.3. 配置 SR-IOV 以太网网络附加

流程

1. 创建一个 SriovNetwork 对象，然后在 <name>.yaml 文件中保存 YAML，其中 <name> 是这个额外网络的名称。对象规格可能类似以下示例：

   apiVersion: sriovnetwork.openshift.io/v1
   kind: SriovNetwork
   metadata:
     name: attach1
     namespace: openshift-sriov-network-operator
   spec:
     resourceName: net1
     networkNamespace: project2
     ipam: |-
       {
         "type": "host-local",
         "subnet": "10.56.217.0/24",
         "rangeStart": "10.56.217.171",
         "rangeEnd": "10.56.217.181",
         "gateway": "10.56.217.1"
       }

2. 运行以下命令来创建对象：

   $ oc create -f <name>.yaml

   这里的 <name> 指定额外网络的名称。

3. 可选： 要确认与您在上一步中创建的 SriovNetwork 对象关联的 NetworkAttachmentDefinition 对象是否存在，请输入以下命令。将 <namespace> 替换为您在 SriovNetwork 对象中指定的 networkNamespace。

   $ oc get net-attach-def -n <namespace>

流程

1. 为 Pod 对象添加注解。只能使用以下注解格式之一：

   1. 要在没有自定义的情况下附加额外网络，请使用以下格式添加注解。将 <network> 替换为要与 pod 关联的额外网络的名称：

      metadata:
        annotations:
          k8s.v1.cni.cncf.io/networks: <network>[,<network>,...] 1

      1

      要指定多个额外网络，请使用逗号分隔各个网络。逗号之间不可包括空格。如果您多次指定同一额外网络，则该 pod 会将多个网络接口附加到该网络。

   2. 要通过自定义来附加额外网络，请添加具有以下格式的注解：

      metadata:
        annotations:
          k8s.v1.cni.cncf.io/networks: |-
            [
              {
                "name": "<network>", 1
                "namespace": "<namespace>", 2
                "default-route": ["<default-route>"] 3
              }
            ]

      1

      指定 NetworkAttachmentDefinition 对象定义的额外网络的名称。

      2

      指定定义 NetworkAttachmentDefinition 对象的命名空间。

      3

      可选：为默认路由指定覆盖，如 192.168.17.1。

2. 运行以下命令来创建 pod。将 <name> 替换为 pod 的名称。

   $ oc create -f <name>.yaml

3. 可选： 要确认 Pod CR 中是否存在注解，请输入以下命令将 <name> 替换为 pod 的名称。

   $ oc get pod <name> -o yaml

   在以下示例中，example-pod pod 附加到 net1 额外网络：

   $ oc get pod example-pod -o yaml
   apiVersion: v1
   kind: Pod
   metadata:
     annotations:
       k8s.v1.cni.cncf.io/networks: macvlan-bridge
       k8s.v1.cni.cncf.io/network-status: |- 1
         [{
             "name": "ovn-kubernetes",
             "interface": "eth0",
             "ips": [
                 "10.128.2.14"
             ],
             "default": true,
             "dns": {}
         },{
             "name": "macvlan-bridge",
             "interface": "net1",
             "ips": [
                 "20.2.2.100"
             ],
             "mac": "22:2f:60:a5:f8:00",
             "dns": {}
         }]
     name: example-pod
     namespace: default
   spec:
     ...
   status:
     ...

   1

   k8s.v1.cni.cncf.io/network-status 参数是对象的 JSON 数组。每个对象描述附加到 pod 的额外网络的状态。注解值保存为纯文本值。

流程

1. 创建一个 SriovNetworkPoolConfig 资源：

   1. 创建一个定义 SriovNetworkPoolConfig 资源的 YAML 文件：

      sriov-nw-pool.yaml 文件示例

      apiVersion: v1
      kind: SriovNetworkPoolConfig
      metadata:
        name: pool-1 1
        namespace: openshift-sriov-network-operator 2
      spec:
        maxUnavailable: 2 3
        nodeSelector: 4
          matchLabels:
            node-role.kubernetes.io/worker: ""

      1

      指定 SriovNetworkPoolConfig 对象的名称。

      2

      指定安装 SR-IOV Network Operator 的命名空间。

      3

      为在更新过程中可用的节点指定一个整数或百分比值。例如，如果您有 10 个节点，并且将最大不可用设置为 2，那么可以随时并行排空 2 个节点，保留 8 个节点来处理工作负载。

      4

      使用节点选择器指定要添加池的节点。本例将具有 worker 角色的所有节点添加到池中。

   2. 运行以下命令来创建 SriovNetworkPoolConfig 资源：

      $ oc create -f sriov-nw-pool.yaml

2. 运行以下命令来创建 sriov-test 命名空间：

   $ oc create namespace sriov-test

3. 创建一个 SriovNetworkNodePolicy 资源：

   1. 创建一个定义 SriovNetworkNodePolicy 资源的 YAML 文件：

      sriov-node-policy.yaml 文件示例

      apiVersion: sriovnetwork.openshift.io/v1
      kind: SriovNetworkNodePolicy
      metadata:
        name: sriov-nic-1
        namespace: openshift-sriov-network-operator
      spec:
        deviceType: netdevice
        nicSelector:
          pfNames: ["ens1"]
        nodeSelector:
          node-role.kubernetes.io/worker: ""
        numVfs: 5
        priority: 99
        resourceName: sriov_nic_1

   2. 运行以下命令来创建 SriovNetworkNodePolicy 资源：

      $ oc create -f sriov-node-policy.yaml

4. 创建一个 SriovNetwork 资源：

   1. 创建一个定义 SriovNetwork 资源的 YAML 文件：

      sriov-network.yaml 文件示例

      apiVersion: sriovnetwork.openshift.io/v1
      kind: SriovNetwork
      metadata:
        name: sriov-nic-1
        namespace: openshift-sriov-network-operator
      spec:
        linkState: auto
        networkNamespace: sriov-test
        resourceName: sriov_nic_1
        capabilities: '{ "mac": true, "ips": true }'
        ipam: '{ "type": "static" }'

   2. 运行以下命令来创建 SriovNetwork 资源：

      $ oc create -f sriov-network.yaml

1. 更新 SriovNetworkNodePolicy 资源中的虚拟功能数量，以触发集群中的工作负载排空：

   $ oc patch SriovNetworkNodePolicy sriov-nic-1 -n openshift-sriov-network-operator --type merge -p '{"spec": {"numVfs": 4}}'

2. 运行以下命令监控目标集群上的排空状态：

   $ oc get sriovNetworkNodeState -n openshift-sriov-network-operator

   输出示例

   NAMESPACE                          NAME       SYNC STATUS   DESIRED SYNC STATE   CURRENT SYNC STATE   AGE
   openshift-sriov-network-operator   worker-0   InProgress    Drain_Required       DrainComplete        3d10h
   openshift-sriov-network-operator   worker-1   InProgress    Drain_Required       DrainComplete        3d10h

   当排空过程完成后，SYNC STATUS 变为 Succeeded，DESIRED SYNC STATE 和 CURRENT SYNC STATE 值返回到 IDLE。

   输出示例

   NAMESPACE                          NAME       SYNC STATUS   DESIRED SYNC STATE   CURRENT SYNC STATE   AGE
   openshift-sriov-network-operator   worker-0   Succeeded     Idle                 Idle                 3d10h
   openshift-sriov-network-operator   worker-1   Succeeded     Idle                 Idle                 3d10h

流程

1. 创建 SriovNetworkNodePolicy CR：

   1. 将以下 YAML 保存到 sriov-network-node-policy.yaml 文件中，替换 YAML 中的值以匹配您的环境：

      apiVersion: sriovnetwork.openshift.io/v1
      kind: SriovNetworkNodePolicy
      metadata:
        name: <policy_name>
        namespace: openshift-sriov-network-operator
      spec:
        resourceName: sriovnuma0 1
        nodeSelector:
          kubernetes.io/hostname: <node_name>
        numVfs: <number_of_Vfs>
        nicSelector: 2
          vendor: "<vendor_ID>"
          deviceID: "<device_ID>"
        deviceType: netdevice
        excludeTopology: true 3

      1

      SR-IOV 网络设备插件的资源名称。此 YAML 使用示例 resourceName 值。

      2

      使用 NIC 选择器识别要配置的 Operator 的设备。

      3

      要将 SR-IOV 网络资源的 NUMA 节点排除到拓扑管理器，请将值设为 true。默认值为 false。

      注意

      如果多个 SriovNetworkNodePolicy 资源都以同一 SR-IOV 网络资源为目标，则 SriovNetworkNodePolicy 资源必须具有与 excludeTopology 规格相同的值。否则，冲突策略将被拒绝。

   2. 运行以下命令来创建 SriovNetworkNodePolicy 资源：

      $ oc create -f sriov-network-node-policy.yaml

      输出示例

      sriovnetworknodepolicy.sriovnetwork.openshift.io/policy-for-numa-0 created

2. 创建 SriovNetwork CR：

   1. 将以下 YAML 保存到 sriov-network.yaml 文件中，替换 YAML 中的值以匹配您的环境：

      apiVersion: sriovnetwork.openshift.io/v1
      kind: SriovNetwork
      metadata:
        name: sriov-numa-0-network 1
        namespace: openshift-sriov-network-operator
      spec:
        resourceName: sriovnuma0 2
        networkNamespace: <namespace> 3
        ipam: |- 4
          {
            "type": "<ipam_type>",
          }

      1

      将 sriov-numa-0-network 替换为 SR-IOV 网络资源的名称。

      2

      指定上一步中的 SriovNetworkNodePolicy CR 的资源名称。此 YAML 使用示例 resourceName 值。

      3

      输入 SR-IOV 网络资源的命名空间。

      4

      输入 SR-IOV 网络的 IP 地址管理配置。

   2. 运行以下命令来创建 SriovNetwork 资源：

      $ oc create -f sriov-network.yaml

      输出示例

      sriovnetwork.sriovnetwork.openshift.io/sriov-numa-0-network created

3. 创建 pod 并从上一步中分配 SR-IOV 网络资源：

   1. 将以下 YAML 保存到 sriov-network-pod.yaml 文件中，替换 YAML 中的值以匹配您的环境：

      apiVersion: v1
      kind: Pod
      metadata:
        name: <pod_name>
        annotations:
          k8s.v1.cni.cncf.io/networks: |-
            [
              {
                "name": "sriov-numa-0-network", 1
              }
            ]
      spec:
        containers:
        - name: <container_name>
          image: <image>
          imagePullPolicy: IfNotPresent
          command: ["sleep", "infinity"]

      1

      这是使用 SriovNetworkNodePolicy 资源的 SriovNetwork 资源的名称。

   2. 运行以下命令来创建 Pod 资源：

      $ oc create -f sriov-network-pod.yaml

      输出示例

      pod/example-pod created

验证

1. 运行以下命令，将 <pod_name> 替换为 pod 的名称来验证 pod 的状态：

   $ oc get pod <pod_name>

   输出示例

   NAME                                     READY   STATUS    RESTARTS   AGE
   test-deployment-sriov-76cbbf4756-k9v72   1/1     Running   0          45h

2. 打开目标 pod 的 debug 会话，以验证 SR-IOV 网络资源是否已部署到与内存和 CPU 资源不同的节点上。

   1. 运行以下命令，使用 pod 打开 debug 会话，将 <pod_name> 替换为目标 pod 名称。

      $ oc debug pod/<pod_name>

   2. 将 /host 设为 debug shell 中的根目录。debug pod 从 pod 中的 /host 中的主机挂载 root 文件系统。将根目录改为 /host，您可以从主机文件系统中运行二进制文件：

      $ chroot /host

   3. 运行以下命令，查看有关 CPU 分配的信息：

      $ lscpu | grep NUMA

      输出示例

      NUMA node(s):                    2
      NUMA node0 CPU(s):     0,2,4,6,8,10,12,14,16,18,...
      NUMA node1 CPU(s):     1,3,5,7,9,11,13,15,17,19,...

      $ cat /proc/self/status | grep Cpus

      输出示例

      Cpus_allowed:	aa
      Cpus_allowed_list:	1,3,5,7

      $ cat  /sys/class/net/net1/device/numa_node

      输出示例

      0

      在本例中，CPU 1,3,5 和 7 分配给 NUMA node1，但 SR-IOV 网络资源可以使用 NUMA node0 中的 NIC。