第2章 rdma サービスの設定

手順

1. rdma-core および opensm パッケージをインストールします。

   # dnf install rdma-core opensm

2. opensm サービスを有効にします。

   # systemctl enable opensm

3. opensm サービスを開始します。

   # systemctl start opensm

4. /etc/rdma/modules/rdma.conf ファイルを編集し、有効にするモジュールのコメントを解除します。

   # These modules are loaded by the system if any RDMA devices is installed
   
   # iSCSI over RDMA client support
   ib_iser
   
   # iSCSI over RDMA target support
   ib_isert
   
   # SCSI RDMA Protocol target driver
   ib_srpt
   
   # User access to RDMA verbs (supports libibverbs)
   ib_uverbs
   
   # User access to RDMA connection management (supports librdmacm)
   rdma_ucm
   
   # RDS over RDMA support
   # rds_rdma
   
   # NFS over RDMA client support
   xprtrdma
   
   # NFS over RDMA server support
   svcrdma

5. サービスを再起動して変更を有効にします。

   # systemctl restart <rdma-load-modules@rdma.service>

検証

1. libibverbs-utils および infiniband-diags パッケージをインストールします。

   # dnf install libibverbs-utils infiniband-diags

2. 利用可能な InfiniBand デバイスのリストを表示します。

   # ibv_devices
   
       device                 node GUID
       ------              ----------------
       mlx4_0              0002c903003178f0
       mlx4_1              f4521403007bcba0

3. mlx4_1 デバイスの情報を表示します。

   # ibv_devinfo -d mlx4_1
   
   hca_id: mlx4_1
        transport:                  InfiniBand (0)
        fw_ver:                     2.30.8000
        node_guid:                  f452:1403:007b:cba0
        sys_image_guid:             f452:1403:007b:cba3
        vendor_id:                  0x02c9
        vendor_part_id:             4099
        hw_ver:                     0x0
        board_id:                   MT_1090120019
        phys_port_cnt:              2
             port:   1
                   state:              PORT_ACTIVE (4)
                   max_mtu:            4096 (5)
                   active_mtu:         2048 (4)
                   sm_lid:             2
                   port_lid:           2
                   port_lmc:           0x01
                   link_layer:         InfiniBand
   
             port:   2
                   state:              PORT_ACTIVE (4)
                   max_mtu:            4096 (5)
                   active_mtu:         4096 (5)
                   sm_lid:             0
                   port_lid:           0
                   port_lmc:           0x00
                   link_layer:         Ethernet

4. mlx4_1 デバイスのステータスを表示します。

   # ibstat mlx4_1
   
   CA 'mlx4_1'
        CA type: MT4099
        Number of ports: 2
        Firmware version: 2.30.8000
        Hardware version: 0
        Node GUID: 0xf4521403007bcba0
        System image GUID: 0xf4521403007bcba3
        Port 1:
              State: Active
              Physical state: LinkUp
              Rate: 56
              Base lid: 2
              LMC: 1
              SM lid: 2
              Capability mask: 0x0251486a
              Port GUID: 0xf4521403007bcba1
              Link layer: InfiniBand
        Port 2:
              State: Active
              Physical state: LinkUp
              Rate: 40
              Base lid: 0
              LMC: 0
              SM lid: 0
              Capability mask: 0x04010000
              Port GUID: 0xf65214fffe7bcba2
              Link layer: Ethernet

5. ibping ユーティリティーは、パラメーターを設定することで InfiniBand アドレスに ping を実行し、クライアント/サーバーとして動作します。

   1. ホスト上で InfiniBand チャネルアダプター (CA) 名 -C を指定し、ポート番号 -P でサーバーモード -S を開始します。

      # ibping -S -C mlx4_1 -P 1

   2. ホスト上でローカル識別子 (LID) -L および InfiniBand チャネルアダプター (CA) 名 -C を指定し、ポート番号 -P でクライアントモードを開始して、パケット -c をいくつか送信します。

      # ibping -c 50 -C mlx4_0 -P 1 -L 2