4.2. KServe の自動インストールの設定

手順

1. OpenShift Web コンソールにクラスター管理者としてログインします。
2. Web コンソールで、Operators Installed Operators をクリックし、Red Hat OpenShift AI Operator をクリックします。

3. 次のように OpenShift Service Mesh をインストールします。

   1. DSC Initialization タブをクリックします。
   2. default-dsci オブジェクトをクリックします。
   3. YAML タブをクリックします。

   4. (advanced デプロイメントモード): spec セクションで、serviceMesh コンポーネントの managementState フィールドの値が Managed に設定されていることを確認します。

      spec:
       applicationsNamespace: redhat-ods-applications
       serviceMesh:
         controlPlane:
           metricsCollection: Istio
           name: data-science-smcp
           namespace: istio-system
         managementState: Managed

      Copy to Clipboard Toggle word wrap

   5. (standard デプロイメントモード): spec セクションで、serviceMesh コンポーネントの managementState フィールドの値が Removed に設定されていることを確認します。

      spec:
       applicationsNamespace: redhat-ods-applications
       serviceMesh:
         controlPlane:
           metricsCollection: Istio
           name: data-science-smcp
           namespace: istio-system
         managementState: Removed

      Copy to Clipboard Toggle word wrap
      注記

      デフォルトで serviceMesh コンポーネントに指定されている istio-system namespace を変更しないでください。他の namespace 値はサポートされていません。

   6. Save をクリックします。

      DSCInitialization オブジェクトに追加した設定に基づいて、Red Hat OpenShift AI Operator は OpenShift Service Mesh をインストールします。

4. (Red Hat OpenShift Service on AWS のみ): OpenShift クラスターが Red Hat OpenShift Service on AWS (ROSA classic) で実行している場合は、サービスメッシュコントロールプレーン設定を機能させるために追加の設定が必要です。この設定を追加するには、data-science-smcp サービスメッシュコントロールプレーンオブジェクトを次のように編集します。

   1. Web コンソールで、Operators Installed Operators をクリックし、Red Hat OpenShift Service Mesh Operator をクリックします。
   2. Istio Service Mesh Control Plane タブをクリックします。
   3. data-science-smcp オブジェクトをクリックします。
   4. YAML タブをクリックします。

   5. 以下に示すように、spec.security.identity セクションに type というフィールドを追加し、値を ThirdParty に設定します。

       security:
          dataPlane:
            mtls: true
          identity:
            type: ThirdParty

      Copy to Clipboard Toggle word wrap
   6. Save をクリックします。

5. (standard デプロイメントモードのみ): 次のように KServe をインストールします。

   1. Web コンソールで、Operators Installed Operators をクリックし、Red Hat OpenShift AI Operator をクリックします。
   2. Data Science Cluster タブをクリックします。
   3. default-dsc DSC オブジェクトをクリックします。
   4. YAML タブをクリックします。

   5. spec.components セクションで、次のように kserve コンポーネントを設定します。

      kserve:
          defaultDeploymentMode: RawDeployment
          rawDeploymentServiceConfig: Headed 

      1

      
          managementState: Managed
          serving:
            managementState: Removed 

      2

      
            name: knative-serving

      Copy to Clipboard Toggle word wrap

   6. Save をクリックします。

      上記の設定では、KServe RawDeployment 機能に基づく standard デプロイメントモードで KServe がインストールされます。この設定では、次の詳細を確認してください。

      1

      示されている設定では、クラスターがワークロードレプリカに対して通常の負荷分散を実行できるようにするために、Headed モードが使用されています。推論リクエストの負荷分散がクライアント側で実行される環境では、rawDeploymentServiceConfig を Headless モードに設定します。

      2

      managementState は Removed に設定されています。

6. (advanced デプロイメントモード): 次のように KServe と OpenShift Serverless の両方をインストールします。

   1. Web コンソールで、Operators Installed Operators をクリックし、Red Hat OpenShift AI Operator をクリックします。
   2. Data Science Cluster タブをクリックします。
   3. default-dsc DSC オブジェクトをクリックします。
   4. YAML タブをクリックします。

   5. spec.components セクションで、次のように kserve コンポーネントを設定します。

      spec:
       components:
         kserve:
           managementState: Managed
           defaultDeploymentMode: Serverless 

      1

      
           rawDeploymentServiceConfig: Headed 

      2

      
           serving:
             ingressGateway:
               certificate:
                 secretName: knative-serving-cert 

      3

      
                 type: OpenshiftDefaultIngress 

      4

      
             managementState: Managed
             name: knative-serving

      Copy to Clipboard Toggle word wrap

   6. Save をクリックします。

      前述の設定では、OpenShift Service Mesh からトラフィックを受け取るための OpenShift Serverless の Ingress ゲートウェイを作成します。この設定では、standard モードと advanced モードの両方を使用できます。

      1

      示されている設定では、KServe の設定後に選択されたデフォルトのデプロイメントモードが使用されます。KServe を使用してモデルを作成およびデプロイするときに、デフォルト値を設定できます。standard モードをデフォルトとして使用するには、defaultDeploymentMode を RawDeployment に設定します。advanced モードをデフォルトとして使用するには、defaultDeploymentMode を Serverless に設定します。

      2

      示されている設定では、クラスターがワークロードレプリカに対して通常の負荷分散を実行できるようにするために、Headed モードが使用されています。推論リクエストの負荷分散がクライアント側で実行される環境では、rawDeploymentServiceConfig を Headless モードに設定します。

      3

      ここに示す設定では、OpenShift 用に設定されたデフォルトの Ingress 証明書を使用して、OpenShift クラスターへの受信トラフィックを保護し、secretName フィールドで指定された knative-serving-cert シークレットに証明書を保存します。secretName フィールドはインストール時にのみ設定できます。secretName フィールドのデフォルト値は knative-serving-cert です。証明書シークレットのその後の変更は、手動で行う必要があります。インストール時にデフォルトの secretName 値を使用しなかった場合は、istio-system namespace に knative-serving-cert という名前の新しいシークレットを作成し、istiod-datascience-smcp-<suffix> Pod を再起動します。

      4

      タイプ フィールドの値を更新することで、次の証明書タイプを指定できます。

      • Provided
      • SelfSigned

      • OpenshiftDefaultIngress

        自己署名証明書を使用するか、独自の証明書を提供するには、secretName フィールドの値を更新してシークレット名を指定し、type フィールドの値を SelfSigned または Provided に変更します。

        注記

        独自の証明書を提供する場合、その証明書には、OpenShift クラスターの Ingress コントローラーによって使用されるドメイン名が指定されている必要があります。この値は、次のコマンドを実行して確認できます。

        $ oc get ingresses.config.openshift.io cluster -o jsonpath='{.spec.domain}'

      • kserve コンポーネントと serving コンポーネントの両方に managementState フィールドの値を Managed に設定する必要があります。kserve.managementState を Managed に設定すると、KServe の自動インストールがトリガーされます。serving.managementState を Managed に設定すると、OpenShift Serverless の自動インストールがトリガーされます。ただし、kserve.managementState も Managed に設定されていない場合、OpenShift Serverless のインストールはトリガー されません。