第1章 Red Hat AI の概要
Red Hat AI は、ハイブリッドクラウド環境全体で人工知能 (AI) ソリューションの提供にかかる時間を短縮し、運用コストを削減する製品およびサービスのポートフォリオです。Red Hat AI では、エンタープライズ関連のデータを使用して用途に適した小規模んモデルを効率的にチューニングし、データの保存先にモデルを柔軟にデプロイできます。
Red Hat AI は、単一サーバーのデプロイから、高度に分散されたプラットフォームまで規模に応じて、予測 AI および生成 AI モデルの両方のライフサイクルを管理および監視するのに役立ちます。ポートフォリオは、オープンソーステクノロジーと、さまざまなインフラストラクチャーのパフォーマンス、安定性、および GPU のサポートに焦点を当てたパートナーエコシステムにより強化されています。
Red Hat AI を使用すると、AI ワークロードストラテジーの予測 AI モデルと生成 AI モデルの両方をデプロイおよび管理できます。ポートフォリオは、初期の単一サーバーデプロイメントから、高度にスケールアウトした分散プラットフォームアーキテクチャーまで、AI の採用過程をサポートします。また、複数のハードウェアアクセラレーター、Original Equipment Manufacturer (OEM)、およびクラウドプロバイダーに対するサポートを提供し、さまざまなインフラストラクチャーにわたって安定し、最適化された高性能プラットフォームを提供します。
Red Hat AI では、最新のイノベーションを利用できるだけでなく、Red Hat の AI パートナーエコシステムによってさらに補完されています。最新のイノベーションを利用できます。Red Hat AI パートナーエコステムでは、テスト済みでサポート対象の認定パートナー製品やサービスを提供しており、Red Hat の技術と連携し、ビジネス面および技術面の課題を解決できるようにします。
Red Hat AI には、以下が含まれます。
- Red Hat Enterprise Linux AI 3
- Red Hat AI Inference Server のすべての機能を備えた、LLM 推論サービス用の統合 Red Hat Enterprise Linux サーバーアプライアンス。
- Red Hat OpenShift AI
ハイブリッドクラウドとエッジ環境全体で人工知能と機械学習 (AI/ML) のライフサイクルを管理するのに役立つ統合 MLOps プラットフォームです。これにより、モデルを実験段階から実稼働環境へより迅速に移行できるようになります。
AI アプリケーションのスケーリングの準備ができている場合に、Red Hat OpenShift AI を活用するとスケーリングを支援できます。この AI プラットフォームは、ハイブリッドクラウド環境全体で予測 AI モデルと生成 AI モデルのライフサイクルを管理する際に役立ちます。
- Red Hat AI Inference Server
- LLM でのサービングと推論を最適化するコンテナーイメージ。AI Inference Server を使用すると、コストを削減しながらパフォーマンスを向上させる方法で、モデルのサービングや推論が可能になります。
1.1. Red Hat Enterprise Linux AI 3 について リンクのコピーリンクがクリップボードにコピーされました!
Red Hat Enterprise Linux AI 3 を使用すると、Linux ベアメタルおよびクラウド環境で NVIDIA CUDA AI アクセラレーターを使用して、選択した言語モデルを実行できます。RHEL AI 3 は、ベアメタル、Amazon Web Services (AWS)、Azure、IBM Cloud、Google Cloud Platform (GCP) にデプロイするための起動可能なイメージを提供します。RHEL AI 3 は、IBM Cloud、AWS、Azure マーケットプレイスから購入して、GPU 対応インスタンスにデプロイできます。
Red Hat Enterprise Linux AI 3 には次の機能があります。
- ベアメタルおよびハイブリッドクラウド向けの推論サービスアプライアンス: Linux 環境全体で選択したモデルを実行します。起動可能な Red Hat Enterprise Linux (RHEL) コンテナーイメージとして RHEL AI 3 をインストールします。各イメージは、特定の NVIDIA CUDA AI ハードウェアアクセラレーター用に設定されています。
- Red Hat AI モデル最適化ツールキット: 調整されたモデルを圧縮して AI アクセラレーターとモデルを最適化し、モデル精度を高く維持しながらコンピュートコストを削減します。
- 事前に最適化されたモデルリポジトリー: RHEL AI 3 は、推論サービスのデプロイメントにすぐに使用できる最適化されたモデルのコレクションにアクセスできます。
- すべての Red Hat 製品で認定: RHEL AI 3 は Red Hat AI の一部として利用できます。