2.4. 为项目安装 TrustyAI 服务
在数据科学项目上安装 TrustyAI 服务,以便为该项目内部署的所有模型提供其功能的访问权限。每个数据科学项目或命名空间都需要一个 TrustyAI 服务实例,其中包含数据科学家要监控的型号。
在项目中仅安装 TrustyAI 服务的一个实例。同一项目中的多个实例可能会导致意外行为。
将 TrustyAI 安装到部署非OVMS 模型的命名空间中,可能会导致 TrustyAI 服务出现错误。
2.4.1. 使用 CLI 安装 TrustyAI 服务 复制链接链接已复制到粘贴板!
您可以使用 OpenShift 命令行界面(CLI)安装 TrustyAI 服务的实例。
先决条件
- 具有集群管理员特权。
- 您已下载并安装 OpenShift 命令行界面 (CLI)。请参阅安装 OpenShift CLI。
- 您已为模型服务平台配置了监控,如 为多型号服务平台配置监控 中所述。
- 您已启用了 TrustyAI 组件,如 启用 TrustyAI 组件 中所述。
- 如果您将 TrustyAI 与数据库而不是 PVC 搭配使用,已将 TrustyAI 配置为使用数据库,如 使用数据库配置 TrustyAI 中所述。
- 数据科学家已创建了数据科学项目,如创建 数据科学项目 中所述,其中包含数据科学家想要监控的模型。
流程
- 打开一个新的终端窗口。
按照以下步骤,以集群管理员身份登录到 OpenShift 集群:
- 在 OpenShift Web 控制台中,单击您的用户名并选择 Copy login command。
- 登录后,单击 Display token。
使用此令牌命令复制登录,并将它粘贴到 OpenShift 命令行界面(CLI)中。
oc login --token=<token> --server=<openshift_cluster_url>
$ oc login --token=<token> --server=<openshift_cluster_url>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
导航到包含数据科学家要监控的模型的数据科学项目。
oc project <project_name>
oc project <project_name>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 例如:
oc project my-project
oc project my-project
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 创建
TrustyAIService
自定义资源(CR)文件,如trustyai_crd.yaml
:TrustyAI 使用数据库的 CR 文件示例
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 使用 PVC 的 TrustyAI 的 CR 文件示例
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 将 TrustyAI 服务的 CR 添加到您的项目中:
oc apply -f trustyai_crd.yaml
oc apply -f trustyai_crd.yaml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 这个命令返回类似如下的输出:
trusty-service created
trusty-service created
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
验证
验证您是否安装了 TrustyAI 服务:
oc get pods | grep trustyai
oc get pods | grep trustyai
您应该看到类似如下的响应:
trustyai-service-5d45b5884f-96h5z 1/1 Running
trustyai-service-5d45b5884f-96h5z 1/1 Running