第2章サポート対象の AI アクセラレーター

次の表は、Red Hat AI Inference Server 3.1 でサポートされている AI アクセラレーターのリストです。

重要

Red Hat AI Inference Server 3.1 は、CUDA バージョン 12.8 より前とは互換性がありません。

Expand

表2.1 サポート対象の NVIDIA AI アクセラレーター
コンテナーイメージ	vLLM リリース	AI アクセラレーター	要件	vLLM アーキテクチャーのサポート	LLM Compressor のサポート
`rhaiis/vllm‑cuda-rhel9`	vLLM 0.9.0.1	Turing Ampere Ada Hopper Blackwell (コンピュート機能 10.0)	CUDA Toolkit 12.8 NVIDIA Container Toolkit 1.14 NVIDIA GPU Operator 24.3 Python 3.12 PyTorch 2.7.0	x86 Aarch64 開発者プレビュー	x86 テクノロジープレビュー

Expand

表2.2 サポート対象の AMD AI アクセラレーター
コンテナーイメージ	vLLM リリース	AI アクセラレーター	要件	vLLM アーキテクチャーのサポート	LLM Compressor のサポート
`rhaiis/vllm‑rocm-rhel9`	vLLM 0.8.4	AMD Instinct MI210 AMD Instinct MI300X	ROCm 6.2 AMD GPU Operator 6.2 Python 3.12 PyTorch 2.7.0	x86	x86 テクノロジープレビュー

Expand

表2.3 サポート対象の Google TPU AI アクセラレーター
コンテナーイメージ	vLLM リリース	AI アクセラレーター	要件	vLLM アーキテクチャーのサポート	LLM Compressor のサポート
`rhaiis/vllm‑xla-rhel9`	vLLM 0.8.5	Google TPU v6e	Python 3.12 PyTorch 2.7.0	x86 開発者プレビュー	サポート対象外

詳細情報

試用、購入および販売

コミュニティー

Red Hat ドキュメントについて

Red Hat をお使いのお客様が、信頼できるコンテンツが含まれている製品やサービスを活用することで、イノベーションを行い、目標を達成できるようにします。最新の更新を見る.

多様性を受け入れるオープンソースの強化

Red Hat では、コード、ドキュメント、Web プロパティーにおける配慮に欠ける用語の置き換えに取り組んでいます。このような変更は、段階的に実施される予定です。詳細情報: Red Hat ブログ.

会社概要

Red Hat は、企業がコアとなるデータセンターからネットワークエッジに至るまで、各種プラットフォームや環境全体で作業を簡素化できるように、強化されたソリューションを提供しています。

Theme

© 2026 Red Hat

トップに戻る