Startseite
Produkte
Red Hat AI Inference Server
3.1
Supported product and hardware configurations
Chapter 2. Supported AI accelerators

Dieser Inhalt ist in der von Ihnen ausgewählten Sprache nicht verfügbar.

Chapter 2. Supported AI accelerators

The following tables list the supported AI accelerators for Red Hat AI Inference Server 3.1.

Important

Red Hat AI Inference Server 3.1 is not compatible with CUDA versions lower than 12.8.

Expand

Table 2.1. Supported NVIDIA AI accelerators
Container image	vLLM release	AI accelerators	Requirements	vLLM architecture support	LLM Compressor support
`rhaiis/vllm‑cuda-rhel9`	vLLM 0.9.0.1	Turing Ampere Ada Hopper Blackwell (compute capability 10.0)	CUDA Toolkit 12.8 NVIDIA Container Toolkit 1.14 NVIDIA GPU Operator 24.3 Python 3.12 PyTorch 2.7.0	x86 Aarch64 Developer Preview	x86 Technology Preview

Expand

Table 2.2. Supported AMD AI accelerators
Container image	vLLM release	AI accelerators	Requirements	vLLM architecture support	LLM Compressor support
`rhaiis/vllm‑rocm-rhel9`	vLLM 0.8.4	AMD Instinct MI210 AMD Instinct MI300X	ROCm 6.2 AMD GPU Operator 6.2 Python 3.12 PyTorch 2.7.0	x86	x86 Technology Preview

Expand

Table 2.3. Supported Google TPU AI accelerators
Container image	vLLM release	AI accelerators	Requirements	vLLM architecture support	LLM Compressor support
`rhaiis/vllm‑xla-rhel9`	vLLM 0.8.5	Google TPU v6e	Python 3.12 PyTorch 2.7.0	x86 Developer Preview	Not supported

Nach oben

Lernen

Testen, kaufen und verkaufen

Communitys

Über Red Hat Dokumentation

Wir helfen Red Hat Benutzern, mit unseren Produkten und Diensten innovativ zu sein und ihre Ziele zu erreichen – mit Inhalten, denen sie vertrauen können. Entdecken Sie unsere neuesten Updates.

Mehr Inklusion in Open Source

Red Hat hat sich verpflichtet, problematische Sprache in unserem Code, unserer Dokumentation und unseren Web-Eigenschaften zu ersetzen. Weitere Einzelheiten finden Sie in Red Hat Blog.

Über Red Hat

Wir liefern gehärtete Lösungen, die es Unternehmen leichter machen, plattform- und umgebungsübergreifend zu arbeiten, vom zentralen Rechenzentrum bis zum Netzwerkrand.

Theme

© 2025 Red Hat