第 4 章 模型管理
您可以在 RHEL AI 上组织和管理您的自定义或下载模型的不同方法。
4.1. 将模型上传到 registry 复制链接链接已复制到粘贴板!
复制链接链接已复制到粘贴板!
微调模型后,您可以将模型上传到外部 registry。RHEL AI 目前支持将模型上传到 AWS S3 存储桶。
先决条件
- 您已在首选平台上安装了 RHEL AI。
- 您初始化了 InstructLab。
- 登录到您首选的 registry。
流程
您可以使用以下命令将模型上传到特定 registry
$ ilab model upload --model <name-of-model> --destination <registry-location> --dest-type <registry-type>其中:
- <name-of-model>
-
指定您要上传的检查点名称。例如,-
-model samples_0801。您还可以指定检查点的路径。 - <registry-location>
-
指定您要上传模型的位置。例如,-
-destination example-s3-bucket - <registry-type>
-
指定 model 类型。有效值包括:
s3。
ilab 模型上传命令示例到 s3 存储桶$ ilab model upload --model samples_0801 --destination example-s3-bucket --dest-type s3