6.2. 为 LMEval 任务启用外部资源访问
LMEval 作业不允许默认访问互联网或远程代码执行。在配置 LMEvalJob 时,可能需要访问外部资源,如 task datasets 和 model tokenizers,通常在 Hugging Face 上托管。如果您信任源并已检查了这些工件的内容,可以配置 LMEvalJob 来自动下载它们。
按照以下步骤为 LMEval 任务启用在线访问和远程代码执行。选择使用 CLI 或控制台更新这些设置。根据您的需要启用一个或多个设置。
6.2.1. 使用 CLI 更新 LMEval 作业配置 复制链接链接已复制到粘贴板!
按照以下步骤启用在线访问(允许在线访问)或远程代码执行(allowCodeExecution)或使用 CLI 进行 LMEval 作业启用两种模式。
启用在线访问或代码执行涉及安全风险。仅在信任源时使用这些配置。
先决条件
- 具有 Red Hat OpenShift AI 集群的集群管理员特权。
- 您已下载并安装 OpenShift AI 命令行界面(CLI)。请参阅安装 OpenShift CLI。
流程
将
opendatahub.io/managed注解添加到false以允许用户更改trustyai-service-operator-configConfigMap:oc patch configmap trustyai-service-operator-config -n redhat-ods-applications \ --type merge -p '{"metadata": {"annotations": {"opendatahub.io/managed": "false"}}}'oc patch configmap trustyai-service-operator-config -n redhat-ods-applications \ --type merge -p '{"metadata": {"annotations": {"opendatahub.io/managed": "false"}}}'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 注意如果
opendatahub.io/managed注解不存在,则默认值为true。Expand 表 6.2. LMEval 作业访问的 trustyai-service-operator-config 注解密钥 注解键 value 效果 opendatahub.io/managedtrue不允许用户更改,并将自动恢复。
opendatahub.io/managedfalse允许用户管理 TrustyAI 操作器。
更新 TrustyAI operator 的设置,以启用外部连接或远程代码执行,或两者:
oc patch configmap trustyai-service-operator-config -n redhat-ods-applications \ --type merge -p '{"data":{"lmes-allow-online":"true","lmes-allow-code-execution":"true"}}'oc patch configmap trustyai-service-operator-config -n redhat-ods-applications \ --type merge -p '{"data":{"lmes-allow-online":"true","lmes-allow-code-execution":"true"}}'Copy to Clipboard Copied! Toggle word wrap Toggle overflow Expand 表 6.3. LMEval 作业访问的 trustyai-service-operator-config 配置密钥 ConfigMap 键 默认 描述 lmes-allow-onlinefalse在集群级别启用对 LMEval 作业的互联网访问。
lmes-allow-code-executionfalse允许执行与 datasets 或 tokenizers 下载的代码。
重启 TrustyAI 操作器以应用配置更改:
oc rollout restart deployment trustyai-service-operator-controller-manager -n redhat-ods-applications
oc rollout restart deployment trustyai-service-operator-controller-manager -n redhat-ods-applicationsCopy to Clipboard Copied! Toggle word wrap Toggle overflow 在特定的
LMEvalJob资源中启用在线访问或代码执行或两者:对于已存在的 LMEval 作业,请应用以下补丁:
oc patch lmevaljobs example-lmeval -n <user-or-target-namespace> \ --type merge -p '{"spec":{"allowOnline":true,"allowCodeExecution":true}}' oc get lmevaljobs example-lmeval -n <user-or-target-namespace> \ -o jsonpath='{.spec.allowOnline}{"\n"}{.spec.allowCodeExecution}{"\n"}'oc patch lmevaljobs example-lmeval -n <user-or-target-namespace> \ --type merge -p '{"spec":{"allowOnline":true,"allowCodeExecution":true}}' oc get lmevaljobs example-lmeval -n <user-or-target-namespace> \ -o jsonpath='{.spec.allowOnline}{"\n"}{.spec.allowCodeExecution}{"\n"}'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 对于新的 LMEval 作业,请应用包含以下字段的 YAML:
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
6.2.2. 使用 Web 控制台更新 LMEval 作业配置 复制链接链接已复制到粘贴板!
按照以下步骤,通过 OpenShift AI web 控制台为 LMEval 作业启用在线访问(允许在线访问)和远程代码执行(allowCodeExecution)模式。
启用在线访问或代码执行涉及安全风险。仅在信任源时使用这些配置。
先决条件
- 具有 Red Hat OpenShift AI 集群的集群管理员特权。
流程
-
导航到 Workloads
ConfigMaps。 -
选择
redhat-ods-applications命名空间。 -
打开
trustyai-service-operator-configConfigMap。 在 Annotations 下,添加:
opendatahub.io/managed: "false"
opendatahub.io/managed: "false"Copy to Clipboard Copied! Toggle word wrap Toggle overflow 在 Data 下,添加或更新:
lmes-allow-online: "true" lmes-allow-code-execution: "true"
lmes-allow-online: "true" lmes-allow-code-execution: "true"Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 保存 ConfigMap。
-
导航到 Workloads
Deployments。 -
选择
redhat-ods-applications命名空间。 -
找到
trustyai-service-operator-controller-manager。 点 Actions 菜单并选择 Restart rollout。
注意每个 LMEval 作业都必须明确设置为允许在线访问和代码执行。
在编写
LMEvalJob自定义资源时,请确保将以下字段设置为true,以便为此作业启用在线访问和代码执行:Copy to Clipboard Copied! Toggle word wrap Toggle overflow
| 字段 | 默认 | 描述 |
|---|---|---|
|
|
| 使此作业能够访问互联网(例如,下载数据集或令牌程序)。 |
|
|
| 允许此任务运行包含在下载的资源中的代码。 |