1.9. 验证模型运行时是否已就绪


通过检查下游生成活动是否已完成,验证您的模型运行时是否可供使用。

先决条件

  • 已配置了 ServingRuntimes CR。
  • 您创建了 InferenceService CR。
  • 有对机器的 root 用户访问权限。
  • 已安装 OpenShift CLI (oc)。

流程

  1. 运行以下命令,检查 AI 模型是否在自定义命名空间中部署:

    $ oc get -n ai-demo deployment
    Copy to Clipboard Toggle word wrap

    输出示例

    NAME                      READY   UP-TO-DATE   AVAILABLE   AGE
    ovms-resnet50-predictor   1/1     1            1           72s
    Copy to Clipboard Toggle word wrap

  2. 运行以下命令确认您的部署正在进行:

    $ oc rollout status -n ai-demo deployment ovms-resnet50-predictor
    Copy to Clipboard Toggle word wrap

    输出示例

    deployment "ovms-resnet50-predictor" successfully rolled out
    Copy to Clipboard Toggle word wrap

  3. 运行以下命令,检查 AI 模型工作负载 pod 是否在自定义命名空间中部署:

    $ oc get -n ai-demo pod
    Copy to Clipboard Toggle word wrap

    输出示例

    NAME                                       READY   STATUS    RESTARTS      AGE
    ovms-resnet50-predictor-6fdb566b7f-bc9k5   2/2     Running   1 (72s ago)   74s
    Copy to Clipboard Toggle word wrap

  4. 运行以下命令,检查创建的服务 KServe:

    $ oc get svc -n ai-demo
    Copy to Clipboard Toggle word wrap

    输出示例

    NAME                      TYPE        CLUSTER-IP   EXTERNAL-IP   PORT(S)   AGE
    ovms-resnet50-predictor   ClusterIP   None         <none>        80/TCP    119s
    Copy to Clipboard Toggle word wrap

后续步骤

  • 创建一个 Route 对象,以便应用程序可以访问 MicroShift 集群。

其他资源

返回顶部
Red Hat logoGithubredditYoutubeTwitter

学习

尝试、购买和销售

社区

关于红帽文档

通过我们的产品和服务,以及可以信赖的内容,帮助红帽用户创新并实现他们的目标。 了解我们当前的更新.

让开源更具包容性

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。欲了解更多详情,请参阅红帽博客.

關於紅帽

我们提供强化的解决方案,使企业能够更轻松地跨平台和环境(从核心数据中心到网络边缘)工作。

Theme

© 2025 Red Hat