Red Hat Summit Red Hat Summitサポートコンソール開発者トライアルの開始お問い合わせ

3.2. NIM モデルの NVIDIA NIM メトリクスの表示

OpenShift AI では、NVIDIA NIM モデルサービスプラットフォームにデプロイされた NIM モデルの次の NVIDIA NIM メトリクスを確認できます。

  • GPU キャッシュ使用量の推移 (ミリ秒)
  • 現在実行中、待機中、および最大のリクエスト数
  • トークンの数
  • 最初のトークンまでの時間
  • 出力トークンあたりの時間
  • リクエスト結果

これらのメトリクスの時間範囲と更新間隔を指定すると、指定した時間におけるピーク使用時間やモデルのパフォーマンスなどを判断するのに役立ちます。

前提条件

  • NVIDIA NIM モデルサービングプラットフォームを有効にした。
  • NVIDIA NIM モデルサービスプラットフォームに NIM モデルがデプロイされている。
  • クラスター管理者がデプロイメントのメトリクス収集とグラフ生成を有効にした。

  • disableKServeMetrics OpenShift AI ダッシュボード設定オプションは、デフォルト値の false に設定されている。 

    disableKServeMetrics: false
    Copy to Clipboard Toggle word wrap

    ダッシュボード設定オプションの設定に関する詳細は、ダッシュボードのカスタマイズ を参照してください。

手順

  1. OpenShift AI ダッシュボードのナビゲーションメニューから、Data science projects をクリックします。

    Data science projects のページが開きます。

  2. 監視する NIM モデルを含むプロジェクトの名前をクリックします。
  3. プロジェクトの詳細ページで、Models タブをクリックします。
  4. 確認する NIM モデルをクリックします。

  5. NIM Metrics タブで、以下のオプションを設定します。

    • 時間範囲 - メトリクスを追跡する期間を指定します。1 時間、24 時間、7 日、30 日のいずれかの値を選択できます。
    • 更新間隔 - (最新のデータを表示するために) メトリクスページのグラフを更新する頻度を指定します。15 秒、30 秒、1 分、5 分、15 分、30 分、1 時間、2 時間、1 日の値のいずれかを選択できます。
  6. NIM メトリクスのデータグラフを表示するには、下にスクロールします。

検証

NIM メトリクス タブには、デプロイされた NIM モデルの NIM メトリクスのグラフが表示されます。

関連情報

トップに戻る
Red Hat logoGithubredditYoutubeTwitter

詳細情報

試用、購入および販売

コミュニティー

Red Hat ドキュメントについて

Red Hat をお使いのお客様が、信頼できるコンテンツが含まれている製品やサービスを活用することで、イノベーションを行い、目標を達成できるようにします。 最新の更新を見る.

多様性を受け入れるオープンソースの強化

Red Hat では、コード、ドキュメント、Web プロパティーにおける配慮に欠ける用語の置き換えに取り組んでいます。このような変更は、段階的に実施される予定です。詳細情報: Red Hat ブログ.

会社概要

Red Hat は、企業がコアとなるデータセンターからネットワークエッジに至るまで、各種プラットフォームや環境全体で作業を簡素化できるように、強化されたソリューションを提供しています。

Theme

© 2025 Red Hat