第4章 Red Hat OpenShift AI との統合
Red Hat OpenShift AI と Red Hat AI Model Optimization Toolkit を使用して、モデルのトレーニング、ファインチューニング、圧縮を試すことができます。Red Hat AI Model Optimization Toolkit を OpenShift AI と統合すると、次の 2 つの入門用サンプルを利用できます。
- CPU 上で実行可能な小さなモデルを使った圧縮の例を示すワークベンチイメージとノートブック。調整された圧縮が、データなしの手法に比べてどのように優れているかをハイライトしています。
- 同じワークフローをより大規模な Llama 3.2 モデルに拡張するデータサイエンスパイプライン。ユーザーが単一の URL から他の関係者と共有できる自動化された GPU アクセラレーション実験を構築する方法を紹介します。
どちらも Red Hat AI Examples リポジトリーで利用できます。
重要
Red Hat OpenShift AI と Red Hat AI Model Optimization Toolkit の統合は、開発者プレビュー機能です。