AI ワークロード

1. バッチ管理者が ResourceFlavor、LocalQueue、および ClusterQueue リソースを作成および設定します。
2. ユーザーがクラスターでジョブを作成します。
3. Kubernetes API サーバーがジョブデータを検証して受け入れます。
4. Red Hat build of Kueue が、順序やクォータなどの設定されたオプションに基づいてジョブを許可します。リソースフレーバーを使用してジョブにアフィニティーを注入し、各ジョブに対応する Workload オブジェクトを作成します。
5. ジョブタイプに応じた適切なコントローラーが Pod を作成します。
6. Kubernetes スケジューラーが、クラスター内のノードに Pod を割り当てます。
7. Kubernetes クラスターオートスケーラーが、必要に応じて追加のノードをプロビジョニングします。

手順

1. OpenShift Container Platform Web コンソールで、Operators → OperatorHub をクリックします。
2. 利用可能な Operator の一覧から Red Hat Build of Kueue Operator を選択し、Install をクリックします。

手順

1. OpenShift Container Platform Web コンソールで、Operators → Installed Operator をクリックし、リストから Red Hat build of Kueue を選択します。
2. Actions ドロップダウンメニューから、Uninstall Operator を選択します。

3. Uninstall Operator? ダイアログボックスが開きます。Uninstall をクリックします。

   重要

   Uninstall をクリックする前に Delete all operand instances for this operator チェックボックスをオンにすると、次の既存のリソースを含むすべてのリソースがクラスターから削除されます。

   • Kueue CR
   • 作成したクラスターキュー、ローカルキュー、またはリソースフレーバー

   クラスターをアップグレードする際に作成したリソースを保持するには、このボックスをオフのままにしておきます。

4. OpenShift Container Platform Web コンソールで、Operators → OperatorHub をクリックします。
5. 利用可能な Operator の一覧から Red Hat Build of Kueue Operator を選択し、Install をクリックします。

検証

1. Operators → Installed Operators に移動します。
2. Red Hat Build of Kueue Operator の Status が Succeeded と表示されていることを確認します。
3. リスト内の Operator 名の下に表示されているバージョンが最新バージョンであることを確認します。

手順

1. OpenShift Container Platform Web コンソールで、Operators → Installed Operators をクリックします。
2. Provided APIs テーブル列で、Kueue をクリックします。これにより、Operator details ページの Kueue タブに移動します。
3. Create Kueue をクリックします。これにより、Create Kueue YAML ビューに移動します。

4. Kueue CR の詳細を入力します。

   Kueue CR の例

   apiVersion: kueue.openshift.io/v1
   kind: Kueue
   metadata:
     labels:
       app.kubernetes.io/name: kueue-operator
       app.kubernetes.io/managed-by: kustomize
     name: cluster 

   1

   
     namespace: openshift-kueue-operator
   spec:
     managementState: Managed
     config:
       integrations:
         frameworks: 

   2

   
         - BatchJob
       preemption:
         preemptionPolicy: Classical 

   3

   
   # ...

   Copy to Clipboard Toggle word wrap

   1

   Kueue CR の名前は cluster である必要があります。

   2

   他のワークロードタイプで使用するために Red Hat build of Kueue を設定する場合は、ここにそのタイプを追加します。デフォルトの設定では、BatchJob タイプのみが推奨され、サポートされます。

   3

   オプション: Red Hat build of Kueue にフェアシェアリングを設定する場合は、preemptionPolicy 値を FairSharing に設定します。Kueue CR のデフォルト設定は Classical プリエンプションです。

5. Create をクリックします。

手順

1. OpenShift Container Platform Web コンソールで、Operators → OperatorHub をクリックします。
2. 利用可能な Operator の一覧から Red Hat Build of Kueue Operator を選択し、Install をクリックします。

手順

1. OpenShift Container Platform Web コンソールで、Operators → Installed Operator をクリックし、リストから Red Hat build of Kueue を選択します。
2. Actions ドロップダウンメニューから、Uninstall Operator を選択します。

3. Uninstall Operator? ダイアログボックスが開きます。Uninstall をクリックします。

   重要

   Uninstall をクリックする前に Delete all operand instances for this operator チェックボックスをオンにすると、次の既存のリソースを含むすべてのリソースがクラスターから削除されます。

   • Kueue CR
   • 作成したクラスターキュー、ローカルキュー、またはリソースフレーバー

   クラスターをアップグレードする際に作成したリソースを保持するには、このボックスをオフのままにしておきます。

4. OpenShift Container Platform Web コンソールで、Operators → OperatorHub をクリックします。
5. 利用可能な Operator の一覧から Red Hat Build of Kueue Operator を選択し、Install をクリックします。

検証

1. Operators → Installed Operators に移動します。
2. Red Hat Build of Kueue Operator の Status が Succeeded と表示されていることを確認します。
3. リスト内の Operator 名の下に表示されているバージョンが最新バージョンであることを確認します。

手順

1. OpenShift Container Platform Web コンソールで、Operators → Installed Operators をクリックします。
2. Provided APIs テーブル列で、Kueue をクリックします。これにより、Operator details ページの Kueue タブに移動します。
3. Create Kueue をクリックします。これにより、Create Kueue YAML ビューに移動します。

4. Kueue CR の詳細を入力します。

   Kueue CR の例

   apiVersion: kueue.openshift.io/v1
   kind: Kueue
   metadata:
     labels:
       app.kubernetes.io/name: kueue-operator
       app.kubernetes.io/managed-by: kustomize
     name: cluster 

   1

   
     namespace: openshift-kueue-operator
   spec:
     managementState: Managed
     config:
       integrations:
         frameworks: 

   2

   
         - BatchJob
       preemption:
         preemptionPolicy: Classical 

   3

   
   # ...

   Copy to Clipboard Toggle word wrap

   1

   Kueue CR の名前は cluster である必要があります。

   2

   他のワークロードタイプで使用するために Red Hat build of Kueue を設定する場合は、ここにそのタイプを追加します。デフォルトの設定では、BatchJob タイプのみが推奨され、サポートされます。

   3

   オプション: Red Hat build of Kueue にフェアシェアリングを設定する場合は、preemptionPolicy 値を FairSharing に設定します。Kueue CR のデフォルト設定は Classical プリエンプションです。

5. Create をクリックします。

手順

1. ClusterRoleBinding オブジェクトを YAML ファイルとして作成します。

   ClusterRoleBinding オブジェクトの例

   apiVersion: rbac.authorization.k8s.io/v1
   kind: ClusterRoleBinding
   metadata:
     name: kueue-admins 

   1

   
   subjects: 

   2

   
   - kind: User
     name: admin@example.com
     apiGroup: rbac.authorization.k8s.io
   roleRef: 

   3

   
     kind: ClusterRole
     name: kueue-batch-admin-role
     apiGroup: rbac.authorization.k8s.io

   Copy to Clipboard Toggle word wrap

   1

   ClusterRoleBinding オブジェクトの名前を指定します。

   2

   ユーザー権限を付与するユーザーまたはユーザーグループに関する詳細を追加します。

   3

   kueue-batch-admin-role クラスターロールに関する詳細を追加します。

2. ClusterRoleBinding オブジェクトを適用します。

   $ oc apply -f <filename>.yaml

   Copy to Clipboard Toggle word wrap

手順

1. RoleBinding オブジェクトを YAML ファイルとして作成します。

   ClusterRoleBinding オブジェクトの例

   apiVersion: rbac.authorization.k8s.io/v1
   kind: RoleBinding
   metadata:
     name: kueue-users 

   1

   
     namespace: user-namespace 

   2

   
   subjects: 

   3

   
   - kind: Group
     name: team-a@example.com
     apiGroup: rbac.authorization.k8s.io
   roleRef: 

   4

   
     kind: ClusterRole
     name: kueue-batch-user-role
     apiGroup: rbac.authorization.k8s.io

   Copy to Clipboard Toggle word wrap

   1

   RoleBinding オブジェクトの名前を指定します。

   2

   RoleBinding オブジェクトが適用される namespace に関する詳細を追加します。

   3

   ユーザー権限を付与するユーザーまたはユーザーグループに関する詳細を追加します。

   4

   kueue-batch-user-role クラスターロールに関する詳細を追加します。

2. RoleBinding オブジェクトを適用します。

   $ oc apply -f <filename>.yaml

   Copy to Clipboard Toggle word wrap

手順

1. ClusterQueue オブジェクトを YAML ファイルとして作成します。

   単一のリソースフレーバーを使用した基本的な ClusterQueue オブジェクトの例

   apiVersion: kueue.x-k8s.io/v1beta1
   kind: ClusterQueue
   metadata:
     name: cluster-queue
   spec:
     namespaceSelector: {} 

   1

   
     resourceGroups:
     - coveredResources: ["cpu", "memory", "pods", "foo.com/gpu"] 

   2

   
       flavors:
       - name: "default-flavor" 

   3

   
         resources: 

   4

   
         - name: "cpu"
           nominalQuota: 9
         - name: "memory"
           nominalQuota: 36Gi
         - name: "pods"
           nominalQuota: 5
         - name: "foo.com/gpu"
           nominalQuota: 100

   Copy to Clipboard Toggle word wrap

   1

   このクラスターキューが管理するリソースを使用できる namespace を定義します。例に示すように、空の namespaceSelector は、すべての namespace がこれらのリソースを使用できることを意味します。

   2

   クラスターキューによって管理されるリソースタイプを定義します。この例では、ClusterQueue オブジェクトは CPU、メモリー、Pod、および GPU リソースを管理します。

   3

   リストされているリソースタイプに適用されるリソースフレーバーを定義します。この例では、default-flavor リソースフレーバーが CPU、メモリー、Pod、および GPU リソースに適用されます。

   4

   ジョブを許可するリソース要件を定義します。このサンプルクラスターキューは、次の条件が満たされた場合にのみジョブを許可します。

   • CPU 要求の合計は 9 以下です。
   • メモリー要求の合計は 36Gi 以下です。
   • Pod の合計数は 5 以下です。
   • GPU リクエストの合計は 100 以下です。

2. 次のコマンドを実行して、ClusterQueue オブジェクトを適用します。

   $ oc apply -f <filename>.yaml

   Copy to Clipboard Toggle word wrap

手順

1. ResourceFlavor オブジェクトを YAML ファイルとして作成します。

   空の ResourceFlavor オブジェクトの例

   apiVersion: kueue.x-k8s.io/v1beta1
   kind: ResourceFlavor
   metadata:
     name: default-flavor

   Copy to Clipboard Toggle word wrap

   カスタム ResourceFlavor オブジェクトの例

   apiVersion: kueue.x-k8s.io/v1beta1
   kind: ResourceFlavor
   metadata:
     name: "x86"
   spec:
     nodeLabels:
       cpu-arch: x86

   Copy to Clipboard Toggle word wrap

2. 以下のコマンドを実行して ResourceFlavor オブジェクトを適用します。

   $ oc apply -f <filename>.yaml

   Copy to Clipboard Toggle word wrap

手順

1. LocalQueue オブジェクトを YAML ファイルとして作成します。

   基本的な LocalQueue オブジェクトの例

   apiVersion: kueue.x-k8s.io/v1beta1
   kind: LocalQueue
   metadata:
     namespace: team-namespace
     name: user-queue
   spec:
     clusterQueue: cluster-queue

   Copy to Clipboard Toggle word wrap

2. 次のコマンドを実行して、LocalQueue オブジェクトを適用します。

   $ oc apply -f <filename>.yaml

   Copy to Clipboard Toggle word wrap

手順

1. default という名前の LocalQueue オブジェクトを YAML ファイルとして作成します。

   デフォルトの LocalQueue オブジェクトの例

   apiVersion: kueue.x-k8s.io/v1beta1
   kind: LocalQueue
   metadata:
     namespace: team-namespace
     name: default
   spec:
     clusterQueue: cluster-queue

   Copy to Clipboard Toggle word wrap

2. 次のコマンドを実行して、LocalQueue オブジェクトを適用します。

   $ oc apply -f <filename>.yaml

   Copy to Clipboard Toggle word wrap

検証

1. デフォルトのローカルキューと同じ namespace にジョブを作成します。
2. ジョブが kueue.x-k8s.io/queue-name: default ラベルで更新されることを確認します。

手順

1. Job オブジェクトを作成します。

   ジョブの例

   apiVersion: batch/v1
   kind: Job 

   1

   
   metadata:
     generateName: sample-job- 

   2

   
     namespace: my-namespace
     labels:
       kueue.x-k8s.io/queue-name: user-queue 

   3

   
   spec:
     parallelism: 3
     completions: 3
     template:
       spec:
         containers:
         - name: dummy-job
           image: registry.k8s.io/e2e-test-images/agnhost:2.53
           args: ["entrypoint-tester", "hello", "world"]
           resources: 

   4

   
             requests:
               cpu: 1
               memory: "200Mi"
         restartPolicy: Never

   Copy to Clipboard Toggle word wrap

   1

   リソースタイプを、バッチ計算タスクを表す Job オブジェクトとして定義します。

   2

   ジョブの一意の名前を生成するための接頭辞を提供します。

   3

   ジョブを送信するキューを識別します。

   4

   各 Pod のリソース要求を定義します。

2. 次のコマンドを実行してジョブを実行します。

   $ oc create -f <filename>.yaml

   Copy to Clipboard Toggle word wrap

手順

1. must-gather データを保存するディレクトリーに移動します。

2. 次のコマンドを実行して、must-gather データを収集します。

   $ oc adm must-gather \
     --image=registry.redhat.io/kueue/kueue-must-gather-rhel9:<version>

   Copy to Clipboard Toggle word wrap

   <version> は、Red Hat build of Kueue の現在のバージョンです。

3. 作業ディレクトリーに作成された must-gather ディレクトリーから圧縮ファイルを作成します。固有の must-gather データの日付とクラスター ID を必ず提供してください。クラスター ID を確認する方法の詳細は、How to find the cluster-id or name on OpenShift cluster を参照してください。
4. Red Hat カスタマーポータルの カスタマーサポート ページ で、圧縮ファイルをサポートケースに添付します。

手順

1. OpenShift Container Platform Web コンソールにログインします。
2. cert-manager Operator for Red Hat OpenShift がインストールされていることを確認します。

3. Leader Worker Set Operator をインストールします。

   1. Operators → OperatorHub に移動します。
   2. フィルターボックスに Leader Worker Set Operator と入力します。
   3. Leader Worker Set Operator を選択し、Install をクリックします。

   4. Install Operator ページで以下を行います。

      1. Update channel を stable-v1.0 に設定します。これにより、Leader Worker Set Operator 1.0 の最新の安定版リリースがインストールされます。
      2. Installation mode で、A specific namespace on the cluster を選択します。
      3. Installed Namespace の下で、Operator recommended Namespace: openshift-lws-operator を選択します。

      4. Update approval で、次のいずれかの更新ストラテジーを選択します。

         • Automatic ストラテジーを使用すると、新しいバージョンが利用可能になったときに、Operator Lifecycle Manager (OLM) によって Operator を自動的に更新できます。
         • Manual ストラテジーには、Operator の更新を承認するための適切な認証情報を持つユーザーが必要です。
      5. Install をクリックします。

4. Leader Worker Set Operator のカスタムリソース (CR) を作成します。

   1. Installed Operators → Leader Worker Set Operator に移動します。
   2. Provided APIs の下にある LeaderWorkerSetOperator ペインで Create instance をクリックします。
   3. Create をクリックします。

手順

1. 次のコマンドを実行して新しいプロジェクトを作成します。

   $ oc new-project my-namespace

   Copy to Clipboard Toggle word wrap

2. leader-worker-set.yaml という名前のファイルを作成します。

   apiVersion: leaderworkerset.x-k8s.io/v1
   kind: LeaderWorkerSet
   metadata:
     generation: 1
     name: my-lws 

   1

   
     namespace: my-namespace 

   2

   
   spec:
     leaderWorkerTemplate:
       leaderTemplate: 

   3

   
         metadata: {}
         spec:
           containers:
           - image: nginxinc/nginx-unprivileged:1.27
             name: leader
             resources: {}
       restartPolicy: RecreateGroupOnPodRestart 

   4

   
       size: 3 

   5

   
       workerTemplate: 

   6

   
         metadata: {}
         spec:
           containers:
           - image: nginxinc/nginx-unprivileged:1.27
             name: worker
             ports:
             - containerPort: 8080
               protocol: TCP
             resources: {}
     networkConfig:
       subdomainPolicy: Shared 

   7

   
     replicas: 2 

   8

   
     rolloutStrategy:
       rollingUpdateConfiguration:
         maxSurge: 1 

   9

   
         maxUnavailable: 1
       type: RollingUpdate
     startupPolicy: LeaderCreated

   Copy to Clipboard Toggle word wrap

   1

   リーダーワーカーセットのリソースの名前を指定します。

   2

   リーダーワーカーセットが実行される namespace を指定します。

   3

   リーダー Pod の Pod テンプレートを指定します。

   4

   Pod 障害が発生した場合の再起動ポリシーを指定します。使用できる値は、グループ全体を再起動する RecreateGroupOnPodRestart か、グループを再起動しない None です。

   5

   リーダー Pod を含む、各グループに作成する Pod の数を指定します。たとえば、値が 3 の場合、リーダー Pod 1 個とワーカー Pod 2 個が作成されます。デフォルト値は 1 です。

   6

   ワーカー Pod の Pod テンプレートを指定します。

   7

   ヘッドレスサービスを作成するときに使用するポリシーを指定します。使用できる値は UniquePerReplica または Shared です。デフォルト値は Shared です。

   8

   レプリカの数、つまりリーダーワーカーグループの数を指定します。デフォルト値は 1 です。

   9

   ローリング更新中に replicas 値を超えてスケジュールできるレプリカの最大数を指定します。値は整数またはパーセンテージで指定できます。

   設定可能なすべてのフィールドの詳細は、LeaderWorkerSet API のアップストリームドキュメントを参照してください。

3. 次のコマンドを実行して、リーダーワーカーセットの設定を適用します。

   $ oc apply -f leader-worker-set.yaml

   Copy to Clipboard Toggle word wrap

検証

1. 次のコマンドを実行して、Pod が作成されたことを確認します。

   $ oc get pods -n my-namespace

   Copy to Clipboard Toggle word wrap

   出力例

   NAME         READY   STATUS    RESTARTS   AGE
   my-lws-0     1/1     Running   0          4s 

   1

   
   my-lws-0-1   1/1     Running   0          3s
   my-lws-0-2   1/1     Running   0          3s
   my-lws-1     1/1     Running   0          7s 

   2

   
   my-lws-1-1   1/1     Running   0          6s
   my-lws-1-2   1/1     Running   0          6s

   Copy to Clipboard Toggle word wrap

   1

   最初のグループのリーダー Pod。

   2

   2 番目のグループのリーダー Pod。

2. 次のコマンドを実行して、ステートフルセットを確認します。

   $ oc get statefulsets

   Copy to Clipboard Toggle word wrap

   出力例

   NAME       READY   AGE
   my-lws     4/4     111s 

   1

   
   my-lws-0   2/2     57s 

   2

   
   my-lws-1   2/2     60s 

   3

   Copy to Clipboard Toggle word wrap

   1

   すべてのリーダーワーカーグループのリーダーステートフルセット。

   2

   最初のグループのワーカーステートフルセット。

   3

   2 番目のグループのワーカーステートフルセット。

手順

1. OpenShift Container Platform Web コンソールにログインします。
2. Operators → Installed Operators に移動します。
3. Project ドロップダウンリストから openshift-lws-operator を選択します。

4. LeaderWorkerSetOperator インスタンスを削除します。

   1. Leader Worker Set Operator をクリックし、LeaderWorkerSetOperator タブを選択します。
   2. cluster エントリーの横にある Options メニュー をクリックし、Delete LeaderWorkerSetOperator を選択します。
   3. 確認ダイアログで Delete をクリックします。

5. Leader Worker Set Operator をアンインストールします。

   1. Operators → Installed Operators に移動します。
   2. Leader Worker Set Operator エントリーの横にある Options メニュー をクリックし、Uninstall Operator をクリックします。
   3. 確認ダイアログで、Uninstall をクリックします。

手順

1. OpenShift Container Platform Web コンソールにログインします。

2. Leader Worker Set Operator をインストールしたときに作成された CRD を削除します。

   1. Administration → CustomResourceDefinitions に移動します。
   2. Name フィールドに LeaderWorkerSetOperator と入力し、CRD をフィルタリングします。
   3. LeaderWorkerSetOperator CRD の横にある Options メニュー をクリックし、Delete CustomResourceDefinition を選択します。
   4. 確認ダイアログで Delete をクリックします。

3. openshift-lws-operator namespace を削除します。

   1. Administration → Namespaces に移動します。
   2. フィルターボックスに openshift-lws-operator と入力します。
   3. openshift-lws-operator エントリーの横にある Options メニュー をクリックし、Delete Namespace を選択します。
   4. 確認ダイアログで、openshift-lws-operator と入力し、Delete をクリックします。