Red Hat Summit Red Hat Summitサポートコンソール開発者トライアルの開始お問い合わせ

1.4. CLI を使用した Lightspeed カスタムリソースファイルの作成

カスタムリソース (CR) ファイルには、Operator が OpenShift Lightspeed をデプロイするために使用する情報が含まれています。CR ファイルの具体的な内容は、大規模言語モデル (LLM) プロバイダーごとに異なります。CR ファイルを作成するには、使用している LLM プロバイダーの設定ファイルを選択します。

前提条件

  • OpenShift CLI (oc) にアクセスでき、cluster-admin ロールを持つユーザーとしてログインしている。または、クラスタースコープの CR ファイルを作成する権限を持つユーザーアカウントにログインしています。
  • OpenShift Lightspeed Service で使用できる LLM プロバイダーがある。
  • OpenShift Lightspeed Operator がインストールされている。

手順

  1. 使用する LLM プロバイダーの YAML コンテンツを含む OLSConfig ファイルを作成します。

    OpenAI CR ファイル

    apiVersion: ols.openshift.io/v1alpha1
kind: OLSConfig
metadata:
  name: cluster
spec:
  llm:
    providers:
      - name: myOpenai
        type: openai
        credentialsSecretRef:
          name: credentials
        url: https://api.openai.com/v1
        models:
          - name: <model_name>
  ols:
    defaultModel: <model_name>
    defaultProvider: myOpenai
    Copy to Clipboard Toggle word wrap

    Red Hat Enterprise Linux AI CR ファイル

    apiVersion: ols.openshift.io/v1alpha1
kind: OLSConfig
metadata:
  name: cluster
spec:
  llm:
    providers:
    - credentialsSecretRef:
        name: <rhelai_api_keys>
    1 
    
      models:
      - name: models/<model_name>
      name: rhelai
      type: rhelai_vllm
      url: <url>
    2 
    
  ols:
    defaultProvider: rhelai
    defaultModel: models/<model_name>
    additionalCAConfigMapRef:
      name: openshift-service-ca.crt
    Copy to Clipboard Toggle word wrap

    1
    デフォルトでは、Red Hat Enterprise Linux AI API キーにはリクエストの一部としてトークンが必要です。Red Hat Enterprise Linux AI 設定でトークンが不要な場合は、要求を認証するためにトークン値を任意の有効な文字列に設定する必要があります。
    2
    URL エンドポイントが有効であるためには、v1 で終わる必要があります。たとえば、https://http://3.23.103.8:8000/v1 などです。

    Red Hat OpenShift AI CR ファイル

    apiVersion: ols.openshift.io/v1alpha1
kind: OLSConfig
metadata:
  name: cluster
spec:
  llm:
    providers:
    - credentialsSecretRef:
        name: <rhoai_api_keys>
    1 
    
      models:
      - name: <model_name>
      name: red_hat_openshift_ai
      type: rhoai_vllm
      url: <url>
    2 
    
  ols:
    defaultProvider: red_hat_openshift_ai
    defaultModel: <model_name>
    Copy to Clipboard Toggle word wrap

    1
    デフォルトでは、Red Hat OpenShift AI API キーにはリクエストの一部としてトークンが必要です。Red Hat OpenShift AI 設定でトークンが不要な場合は、リクエストを認証するためにトークン値を有効な文字列に設定する必要があります。
    2
    URL エンドポイントが有効であるためには、v1 で終わる必要があります。たとえば、https://<model_name>.<domain_name>.com:443/v1 です。

    Microsoft Azure OpenAI CR ファイル

    apiVersion: ols.openshift.io/v1alpha1
kind: OLSConfig
metadata:
  name: cluster
spec:
  llm:
    providers:
      - credentialsSecretRef:
          name: credentials
        apiVersion: <api_version_for_azure_model>
        deploymentName: <azure_ai_deployment_name>
        models:
          - name: <model_name>
        name: myAzure
        type: azure_openai
        url: <azure_ai_deployment_url>
  ols:
    defaultModel: <model_name>
    defaultProvider: myAzure
    Copy to Clipboard Toggle word wrap

    IBM watsonx CR ファイル

    apiVersion: ols.openshift.io/v1alpha1
kind: OLSConfig
metadata:
  name: cluster
spec:
  llm:
    providers:
      - name: myWatsonx
        type: watsonx
        credentialsSecretRef:
          name: credentials
        url: <ibm_watsonx_deployment_name>
        projectID: <ibm_watsonx_project_id>
        models:
          - name: ibm/<model_name>
  ols:
    defaultModel: ibm/<model_name>
    defaultProvider: myWatsonx
    Copy to Clipboard Toggle word wrap

  2. 以下のコマンドを実行します。 

    $ oc create -f /path/to/config-cr.yaml
    Copy to Clipboard Toggle word wrap

    Operator は、YAML 設定ファイルの情報を使用して OpenShift Lightspeed をデプロイします。

1.4.1. 信頼できる CA 証明書と LLM プロバイダーのサポート
リンクのコピー

TLS 証明書を使用して、大規模言語モデル (LLM) および OpenShift Lightspeed サービスとの通信を確立できます。通常、これはカスタムプロキシーを使用して LLM と通信する場合に必要です。

OpenShift Lightspeed サービスは、次の LLM プロバイダー用の信頼できる CA 証明書の追加をサポートしています。

  • Red Hat Enterprise Linux AI vLLM
  • Red Hat OpenShift AI vLLM
  • OpenAI
  • Microsoft Azure OpenAI

信頼できる CA 証明書を追加するには、証明書を含む ConfigMap オブジェクトを作成する必要があります。その後、次の例に示すように、オブジェクトの名前を OLSConfig カスタムリソース (CR) ファイルに追加します。 

ols:
  additionalCAConfigMapRef:
    name: <config_map_name>
Copy to Clipboard Toggle word wrap

1.4.2. LLM 用の信頼できる CA 証明書を使用した OpenShift Lightspeed の設定
リンクのコピー

大規模言語モデル (LLM) プロバイダーに接続するために、信頼できる CA 証明書を使用して OpenShift Lightspeed を設定します。

注記

使用している LLM プロバイダーが OpenShift Lightspeed サービスを認証するために信頼できる CA 証明書を必要とする場合は、この手順を実行する必要があります。LLM プロバイダーがサービスを認証するために信頼できる CA 証明書を必要としない場合は、この手順をスキップする必要があります。

手順

  1. 証明書ファイルの内容をコピーし、caCertFileName というファイルに貼り付けます。

  2. 次のコマンドを実行して、trusted-certs という ConfigMap オブジェクトを作成します。 

    $ oc create configmap trusted-certs --from-file=caCertFileName --namespace openshift-lightspeed
    Copy to Clipboard Toggle word wrap

    出力例

    kind: ConfigMap
apiVersion: v1
metadata:
  name: trusted-certs
  namespace: openshift-lightspeed
data:
  caCertFileName: |
    1 
    
    -----BEGIN CERTIFICATE-----
    .
    .
    .
    -----END CERTIFICATE-----
    Copy to Clipboard Toggle word wrap

    1
    LLM プロバイダーへの接続に必要な CA 証明書を指定します。1 つ以上の証明書を含めることができます。

  3. OLSConfig カスタムリソースファイルを更新して、作成した ConfigMap オブジェクトの名前を含めます。

    Red Hat Enterprise Linux AI CR ファイルの例

    apiVersion: ols.openshift.io/v1alpha1
kind: OLSConfig
metadata:
  name: cluster
spec:
  ols:
    defaultProvider: rhelai
    defaultModel: models/<model_name>
    additionalCAConfigMapRef:
      name: trusted-certs
    1
    Copy to Clipboard Toggle word wrap

    1
    ConfigMap オブジェクトの名前を指定します。

  4. カスタム CR を作成します。 

    $ oc apply -f <olfconfig_cr_filename>
    Copy to Clipboard Toggle word wrap
トップに戻る
Red Hat logoGithubredditYoutubeTwitter

詳細情報

試用、購入および販売

コミュニティー

Red Hat ドキュメントについて

Red Hat をお使いのお客様が、信頼できるコンテンツが含まれている製品やサービスを活用することで、イノベーションを行い、目標を達成できるようにします。 最新の更新を見る.

多様性を受け入れるオープンソースの強化

Red Hat では、コード、ドキュメント、Web プロパティーにおける配慮に欠ける用語の置き換えに取り組んでいます。このような変更は、段階的に実施される予定です。詳細情報: Red Hat ブログ.

会社概要

Red Hat は、企業がコアとなるデータセンターからネットワークエッジに至るまで、各種プラットフォームや環境全体で作業を簡素化できるように、強化されたソリューションを提供しています。

Theme

© 2025 Red Hat