第 2 章 配置核心 RDMA 子系统
rdma 服务配置管理网络协议和通信标准,如 InfiniBand、iWARP 和 RoCE。
流程
安装
rdma-core和opensm软件包:# dnf install rdma-core opensm启用
opensm服务:# systemctl enable opensm启动
opensm服务:# systemctl start opensm
验证
安装
libibverbs-utils和infiniband-diags软件包:# dnf install libibverbs-utils infiniband-diags列出可用的 InfiniBand 设备:
# ibv_devices device node GUID ------ ---------------- mlx4_0 0002c903003178f0 mlx4_1 f4521403007bcba0显示
mlx4_1设备的信息:# ibv_devinfo -d mlx4_1 hca_id: mlx4_1 transport: InfiniBand (0) fw_ver: 2.30.8000 node_guid: f452:1403:007b:cba0 sys_image_guid: f452:1403:007b:cba3 vendor_id: 0x02c9 vendor_part_id: 4099 hw_ver: 0x0 board_id: MT_1090120019 phys_port_cnt: 2 port: 1 state: PORT_ACTIVE (4) max_mtu: 4096 (5) active_mtu: 2048 (4) sm_lid: 2 port_lid: 2 port_lmc: 0x01 link_layer: InfiniBand port: 2 state: PORT_ACTIVE (4) max_mtu: 4096 (5) active_mtu: 4096 (5) sm_lid: 0 port_lid: 0 port_lmc: 0x00 link_layer: Ethernet显示
mlx4_1设备的状态:# ibstat mlx4_1 CA 'mlx4_1' CA type: MT4099 Number of ports: 2 Firmware version: 2.30.8000 Hardware version: 0 Node GUID: 0xf4521403007bcba0 System image GUID: 0xf4521403007bcba3 Port 1: State: Active Physical state: LinkUp Rate: 56 Base lid: 2 LMC: 1 SM lid: 2 Capability mask: 0x0251486a Port GUID: 0xf4521403007bcba1 Link layer: InfiniBand Port 2: State: Active Physical state: LinkUp Rate: 40 Base lid: 0 LMC: 0 SM lid: 0 Capability mask: 0x04010000 Port GUID: 0xf65214fffe7bcba2 Link layer: Ethernetibping程序通过配置参数来 ping InfiniBand 地址并以客户端/服务器运行。在主机上的端口号
上启动服务器模式-带有-P-CInfiniBand 频道适配器(CA)名称:# ibping -S -C mlx4_1 -P 1启动客户端模式,在主机上使用带有
-LLocal Identifier (LID)的端口号-P上发送一些数据包-c:# ibping -c 50 -C mlx4_0 -P 1 -L 2