第 5 章 监控数据偏移
作为数据科学家,您可能需要监控部署的数据偏移模型。数据偏移指的是传入数据的分布或属性的变化,这些数据与最初接受模型的数据有很大不同。检测数据偏移有助于确保您的模型继续按预期执行,并且它们保持准确且可靠。
您可以使用来自 Red Hat OpenShift AI 的 TrustyAI 的数据偏移监控指标,以提供培训数据和推测数据之间的一致定量度量。
有关特定数据偏移指标的详情,请参考 支持的偏移指标。
5.1. 创建偏移指标 复制链接链接已复制到粘贴板!
要监控部署的数据偏移模型,您必须首先创建偏移指标。
有关特定数据偏移指标的详情,请参考 支持的偏移指标。
有关 TrustyAI 指标的完整列表,请参阅 TrustyAI 服务 API。
5.1.1. 使用 CLI 创建偏移指标 复制链接链接已复制到粘贴板!
您可以使用 OpenShift 命令行界面(CLI)为模型创建数据偏移指标。
先决条件
- 熟悉特定的数据集模式,并了解相关的输入和输出。
- 您的 OpenShift 集群管理员作为用户添加到 OpenShift 集群,并为包含部署模型的数据科学项目安装了 TrustyAI 服务。
- 为您的数据科学项目设置 TrustyAI,如 为项目设置 TrustyAI 中所述。
流程
- 打开一个新的终端窗口。
按照以下步骤登录到 OpenShift 集群:
- 在 OpenShift Web 控制台右上角,单击您的用户名,然后选择 Copy login command。
- 登录后,单击 Display token。
使用此令牌命令复制登录,并将它粘贴到 OpenShift 命令行界面(CLI)中。
oc login --token=<token> --server=<openshift_cluster_url>
$ oc login --token=<token> --server=<openshift_cluster_url>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
将
TRUSTY_ROUTE
变量设置为 TrustyAI 服务 pod 的外部路由。TRUSTY_ROUTE=https://$(oc get route/trustyai-service --template={{.spec.host}})
TRUSTY_ROUTE=https://$(oc get route/trustyai-service --template={{.spec.host}})
Copy to Clipboard Copied! Toggle word wrap Toggle overflow (可选)获取 TrustyAI 服务端点和有效负载的完整列表。
curl -H "Authorization: Bearer $TOKEN" --location $TRUSTY_ROUTE/q/openapi
curl -H "Authorization: Bearer $TOKEN" --location $TRUSTY_ROUTE/q/openapi
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 使用
POST /metrics/drift/meanshift/request
来调度带有以下语法和有效负载结构的重复偏移监控指标:语法 :
curl -k -H "Authorization: Bearer $TOKEN" -X POST --location $TRUSTY_ROUTE/metrics/drift/meanshift/request \ --header 'Content-Type: application/json' \ --data <payload>
curl -k -H "Authorization: Bearer $TOKEN" -X POST --location $TRUSTY_ROUTE/metrics/drift/meanshift/request \ --header 'Content-Type: application/json' \ --data <payload>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 有效负载结构 :
modelId
- 要监控的模型的名称。
referenceTag
- 用作参考分发的数据。
例如: