第1章 モデルの保存
モデルをデプロイする前に保存する必要があります。モデルは、S3 バケット、URI、または Open Container Initiative (OCI) コンテナーに保存できます。
1.1. モデル保存用の OCI コンテナーの使用 リンクのコピーリンクがクリップボードにコピーされました!
リンクのコピーリンクがクリップボードにコピーされました!
モデルを S3 バケットまたは URI に保存する代わりに、モデルを Open Container Initiative (OCI) コンテナーにアップロードできます。OCI コンテナーからモデルをデプロイすることは、KServe では modelcar とも呼ばれます。
モデルの保存に OCI コンテナーを使用すると、次のことが可能になります。
- 同じモデルを複数回ダウンロードすることを回避し、起動時間を短縮します。
- ローカルにダウンロードされるモデルの数を減らすことで、ディスク領域の使用量を削減します。
- 事前に取得したイメージを許可することで、モデルのパフォーマンスが向上します。
モデルの保存に OCI コンテナーを使用する場合、次のタスクを実行します。
- OCI イメージにモデルを保存します。
ユーザーインターフェイスまたはコマンドラインインターフェイスを使用して、OCI イメージからモデルをデプロイします。以下を使用してモデルをデプロイします。
- ユーザーインターフェイス (シングルモデルサービングプラットフォームへのモデルのデプロイ を参照)
- コマンドラインインターフェイス (CLI を使用して OCI イメージに保存されているモデルをデプロイする を参照)