4.7. マルチモデルサービングプラットフォームの監視の設定
マルチモデルサービングプラットフォームには、ModelMesh コンポーネントのモデルおよびモデルサーバーメトリクスが含まれています。ModelMesh は独自のメトリクスセットを生成し、それらの提供に基盤となるモデルサービングランタイムに依存しません。ModelMesh が生成するメトリクスのセットには、モデルリクエスト率とタイミング、モデルのロード率とアンロード率、時間とサイズ、内部キューイング遅延、容量と使用率、キャッシュ状態、最近最も使用されていないモデルのメトリクスが含まれます。詳細は、ModelMesh メトリクス を参照してください。
監視を設定したら、ModelMesh コンポーネントのメトリクスを表示できます。
前提条件
- OpenShift クラスターのクラスター管理者権限を持っている。
- OpenShift コマンドラインインターフェイス (CLI) をダウンロードしてインストールした。OpenShift CLI のインストール を参照してください。
- ユーザー定義ワークフローのモニタリングに使用する config map の作成 を理解している。この手順でも同様のステップを実行します。
- OpenShift でユーザー定義プロジェクトの モニタリングを有効にする方法 を理解している。この手順でも同様のステップを実行します。
-
メトリクスを監視するユーザーに、
monitoring-rules-viewロールを 割り当て ている。
手順
ターミナルウィンドウで、クラスター管理者として OpenShift クラスターにまだログインしていない場合は、次の例に示すように OpenShift CLI にログインします。
$ oc login <openshift_cluster_url> -u <admin_username> -p <password>uwm-cm-conf.yamlという YAML ファイルに次の内容のConfigMapオブジェクトを定義します。apiVersion: v1 kind: ConfigMap metadata: name: user-workload-monitoring-config namespace: openshift-user-workload-monitoring data: config.yaml: | prometheus: logLevel: debug retention: 15duser-workload-monitoring-configオブジェクトは、ユーザー定義プロジェクトを監視するコンポーネントを設定します。保持時間が推奨値の 15 日に設定されていることを確認します。設定を適用して
user-workload-monitoring-configオブジェクトを作成します。$ oc apply -f uwm-cm-conf.yamluwm-cm-enable.yamlという YAML ファイルに、次の内容で、別のConfigMapオブジェクトを定義します。apiVersion: v1 kind: ConfigMap metadata: name: cluster-monitoring-config namespace: openshift-monitoring data: config.yaml: | enableUserWorkload: truecluster-monitoring-configオブジェクトを使用して、ユーザー定義プロジェクトの監視を有効にします。設定を適用して、
cluster-monitoring-configオブジェクトを作成します。$ oc apply -f uwm-cm-enable.yaml