23.4. 配置 SR-IOV 网络设备

流程

1. 创建一个 SriovNetworkPoolConfig 资源：

   1. 创建一个定义 SriovNetworkPoolConfig 资源的 YAML 文件：

      sriov-nw-pool.yaml 文件示例

      apiVersion: v1
      kind: SriovNetworkPoolConfig
      metadata:
        name: pool-1 

      1

      
        namespace: openshift-sriov-network-operator 

      2

      
      spec:
        maxUnavailable: 2 

      3

      
        nodeSelector: 

      4

      
          matchLabels:
            node-role.kubernetes.io/worker: ""

      Copy to Clipboard Toggle word wrap

      1

      指定 SriovNetworkPoolConfig 对象的名称。

      2

      指定安装 SR-IOV Network Operator 的命名空间。

      3

      为在更新过程中可用的节点指定一个整数或百分比值。例如，如果您有 10 个节点，并且将最大不可用设置为 2，那么可以随时并行排空 2 个节点，保留 8 个节点来处理工作负载。

      4

      使用节点选择器指定要添加池的节点。本例将具有 worker 角色的所有节点添加到池中。

   2. 运行以下命令来创建 SriovNetworkPoolConfig 资源：

      $ oc create -f sriov-nw-pool.yaml

      Copy to Clipboard Toggle word wrap

2. 运行以下命令来创建 sriov-test 命名空间：

   $ oc create namespace sriov-test

   Copy to Clipboard Toggle word wrap

3. 创建一个 SriovNetworkNodePolicy 资源：

   1. 创建一个定义 SriovNetworkNodePolicy 资源的 YAML 文件：

      sriov-node-policy.yaml 文件示例

      apiVersion: sriovnetwork.openshift.io/v1
      kind: SriovNetworkNodePolicy
      metadata:
        name: sriov-nic-1
        namespace: openshift-sriov-network-operator
      spec:
        deviceType: netdevice
        nicSelector:
          pfNames: ["ens1"]
        nodeSelector:
          node-role.kubernetes.io/worker: ""
        numVfs: 5
        priority: 99
        resourceName: sriov_nic_1

      Copy to Clipboard Toggle word wrap

   2. 运行以下命令来创建 SriovNetworkNodePolicy 资源：

      $ oc create -f sriov-node-policy.yaml

      Copy to Clipboard Toggle word wrap

4. 创建一个 SriovNetwork 资源：

   1. 创建一个定义 SriovNetwork 资源的 YAML 文件：

      sriov-network.yaml 文件示例

      apiVersion: sriovnetwork.openshift.io/v1
      kind: SriovNetwork
      metadata:
        name: sriov-nic-1
        namespace: openshift-sriov-network-operator
      spec:
        linkState: auto
        networkNamespace: sriov-test
        resourceName: sriov_nic_1
        capabilities: '{ "mac": true, "ips": true }'
        ipam: '{ "type": "static" }'

      Copy to Clipboard Toggle word wrap

   2. 运行以下命令来创建 SriovNetwork 资源：

      $ oc create -f sriov-network.yaml

      Copy to Clipboard Toggle word wrap

1. 更新 SriovNetworkNodePolicy 资源中的虚拟功能数量，以触发集群中的工作负载排空：

   $ oc patch SriovNetworkNodePolicy sriov-nic-1 -n openshift-sriov-network-operator --type merge -p '{"spec": {"numVfs": 4}}'

   Copy to Clipboard Toggle word wrap

2. 运行以下命令监控目标集群上的排空状态：

   $ oc get sriovNetworkNodeState -n openshift-sriov-network-operator

   Copy to Clipboard Toggle word wrap

   输出示例

   NAMESPACE                          NAME       SYNC STATUS   DESIRED SYNC STATE   CURRENT SYNC STATE   AGE
   openshift-sriov-network-operator   worker-0   InProgress    Drain_Required       DrainComplete        3d10h
   openshift-sriov-network-operator   worker-1   InProgress    Drain_Required       DrainComplete        3d10h

   Copy to Clipboard Toggle word wrap

   当排空过程完成后，SYNC STATUS 变为 Succeeded，DESIRED SYNC STATE 和 CURRENT SYNC STATE 值返回到 IDLE。

   输出示例

   NAMESPACE                          NAME       SYNC STATUS   DESIRED SYNC STATE   CURRENT SYNC STATE   AGE
   openshift-sriov-network-operator   worker-0   Succeeded     Idle                 Idle                 3d10h
   openshift-sriov-network-operator   worker-1   Succeeded     Idle                 Idle                 3d10h

   Copy to Clipboard Toggle word wrap

流程

1. 为额外 SR-IOV 网络附加创建 SriovNetwork 自定义资源 (CR) 并插入 metaPlugins 配置，如下例所示。将 YAML 保存为文件 sriov-network-attachment.yaml。

   apiVersion: sriovnetwork.openshift.io/v1
   kind: SriovNetwork
   metadata:
     name: example-network
     namespace: additional-sriov-network-1
   spec:
     ipam: |
       {
         "type": "host-local",
         "subnet": "10.56.217.0/24",
         "rangeStart": "10.56.217.171",
         "rangeEnd": "10.56.217.181",
         "routes": [{
           "dst": "0.0.0.0/0"
         }],
         "gateway": "10.56.217.1"
       }
     vlan: 0
     resourceName: intelnics
     metaPlugins : |
       {
         "type": "vrf", 

   1

   
         "vrfname": "example-vrf-name" 

   2

   
       }

   Copy to Clipboard Toggle word wrap

   1

   type 必须设为 vrf。

   2

   vrfname 是接口分配的 VRF 的名称。如果 pod 中不存在，则创建它。

2. 创建 SriovNetwork 资源：

   $ oc create -f sriov-network-attachment.yaml

   Copy to Clipboard Toggle word wrap

1. 创建使用 VRF CNI 的 SR-IOV 网络。
2. 将网络分配给 pod。

3. 验证 pod 网络附加是否已连接到 SR-IOV 额外网络。远程 shell 到 pod 并运行以下命令：

   $ ip vrf show

   Copy to Clipboard Toggle word wrap

   输出示例

   Name              Table
   -----------------------
   red                 10

   Copy to Clipboard Toggle word wrap

4. 确认 VRF 接口是从属接口的主接口：

   $ ip link

   Copy to Clipboard Toggle word wrap

   输出示例

   ...
   5: net1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc noqueue master red state UP mode
   ...

   Copy to Clipboard Toggle word wrap

流程

1. 创建 SriovNetworkNodePolicy CR：

   1. 将以下 YAML 保存到 sriov-network-node-policy.yaml 文件中，替换 YAML 中的值以匹配您的环境：

      apiVersion: sriovnetwork.openshift.io/v1
      kind: SriovNetworkNodePolicy
      metadata:
        name: <policy_name>
        namespace: openshift-sriov-network-operator
      spec:
        resourceName: sriovnuma0 

      1

      
        nodeSelector:
          kubernetes.io/hostname: <node_name>
        numVfs: <number_of_Vfs>
        nicSelector: 

      2

      
          vendor: "<vendor_ID>"
          deviceID: "<device_ID>"
        deviceType: netdevice
        excludeTopology: true 

      3

      Copy to Clipboard Toggle word wrap

      1

      SR-IOV 网络设备插件的资源名称。此 YAML 使用示例 resourceName 值。

      2

      使用 NIC 选择器识别要配置的 Operator 的设备。

      3

      要将 SR-IOV 网络资源的 NUMA 节点排除到拓扑管理器，请将值设为 true。默认值为 false。

      注意

      如果多个 SriovNetworkNodePolicy 资源都以同一 SR-IOV 网络资源为目标，则 SriovNetworkNodePolicy 资源必须具有与 excludeTopology 规格相同的值。否则，冲突策略将被拒绝。

   2. 运行以下命令来创建 SriovNetworkNodePolicy 资源：

      $ oc create -f sriov-network-node-policy.yaml

      Copy to Clipboard Toggle word wrap

      输出示例

      sriovnetworknodepolicy.sriovnetwork.openshift.io/policy-for-numa-0 created

      Copy to Clipboard Toggle word wrap

2. 创建 SriovNetwork CR：

   1. 将以下 YAML 保存到 sriov-network.yaml 文件中，替换 YAML 中的值以匹配您的环境：

      apiVersion: sriovnetwork.openshift.io/v1
      kind: SriovNetwork
      metadata:
        name: sriov-numa-0-network 

      1

      
        namespace: openshift-sriov-network-operator
      spec:
        resourceName: sriovnuma0 

      2

      
        networkNamespace: <namespace> 

      3

      
        ipam: |- 

      4

      
          {
            "type": "<ipam_type>",
          }

      Copy to Clipboard Toggle word wrap

      1

      将 sriov-numa-0-network 替换为 SR-IOV 网络资源的名称。

      2

      指定上一步中的 SriovNetworkNodePolicy CR 的资源名称。此 YAML 使用示例 resourceName 值。

      3

      输入 SR-IOV 网络资源的命名空间。

      4

      输入 SR-IOV 网络的 IP 地址管理配置。

   2. 运行以下命令来创建 SriovNetwork 资源：

      $ oc create -f sriov-network.yaml

      Copy to Clipboard Toggle word wrap

      输出示例

      sriovnetwork.sriovnetwork.openshift.io/sriov-numa-0-network created

      Copy to Clipboard Toggle word wrap

3. 创建 pod 并从上一步中分配 SR-IOV 网络资源：

   1. 将以下 YAML 保存到 sriov-network-pod.yaml 文件中，替换 YAML 中的值以匹配您的环境：

      apiVersion: v1
      kind: Pod
      metadata:
        name: <pod_name>
        annotations:
          k8s.v1.cni.cncf.io/networks: |-
            [
              {
                "name": "sriov-numa-0-network", 

      1

      
              }
            ]
      spec:
        containers:
        - name: <container_name>
          image: <image>
          imagePullPolicy: IfNotPresent
          command: ["sleep", "infinity"]

      Copy to Clipboard Toggle word wrap

      1

      这是使用 SriovNetworkNodePolicy 资源的 SriovNetwork 资源的名称。

   2. 运行以下命令来创建 Pod 资源：

      $ oc create -f sriov-network-pod.yaml

      Copy to Clipboard Toggle word wrap

      输出示例

      pod/example-pod created

      Copy to Clipboard Toggle word wrap

验证

1. 运行以下命令，将 <pod_name> 替换为 pod 的名称来验证 pod 的状态：

   $ oc get pod <pod_name>

   Copy to Clipboard Toggle word wrap

   输出示例

   NAME                                     READY   STATUS    RESTARTS   AGE
   test-deployment-sriov-76cbbf4756-k9v72   1/1     Running   0          45h

   Copy to Clipboard Toggle word wrap

2. 打开目标 pod 的 debug 会话，以验证 SR-IOV 网络资源是否已部署到与内存和 CPU 资源不同的节点上。

   1. 运行以下命令，使用 pod 打开 debug 会话，将 <pod_name> 替换为目标 pod 名称。

      $ oc debug pod/<pod_name>

      Copy to Clipboard Toggle word wrap

   2. 将 /host 设为 debug shell 中的根目录。debug pod 从 pod 中的 /host 中的主机挂载 root 文件系统。将根目录改为 /host，您可以从主机文件系统中运行二进制文件：

      $ chroot /host

      Copy to Clipboard Toggle word wrap

   3. 运行以下命令，查看有关 CPU 分配的信息：

      $ lscpu | grep NUMA

      Copy to Clipboard Toggle word wrap

      输出示例

      NUMA node(s):                    2
      NUMA node0 CPU(s):     0,2,4,6,8,10,12,14,16,18,...
      NUMA node1 CPU(s):     1,3,5,7,9,11,13,15,17,19,...

      Copy to Clipboard Toggle word wrap

      $ cat /proc/self/status | grep Cpus

      Copy to Clipboard Toggle word wrap

      输出示例

      Cpus_allowed:	aa
      Cpus_allowed_list:	1,3,5,7

      Copy to Clipboard Toggle word wrap

      $ cat  /sys/class/net/net1/device/numa_node

      Copy to Clipboard Toggle word wrap

      输出示例

      0

      Copy to Clipboard Toggle word wrap

      在本例中，CPU 1,3,5 和 7 分配给 NUMA node1，但 SR-IOV 网络资源可以使用 NUMA node0 中的 NIC。