Red Hat Summit Red Hat SummitSupportKonsoleEntwicklerDemo startenKontakt
  1. Startseite
  2. Produkte
  3. Red Hat AI Inference Server
  4. 3.4

Red Hat AI Inference Server 3.4

Dieser Inhalt ist in der von Ihnen ausgewählten Sprache nicht verfügbar.

Early Access

3.4 Early Access (EA1) Release Notes

Overview of the new features included in the 3.4 Early Access (EA1) release

Getting started

Getting started with Red Hat AI Inference Server

Product life cycle

Understand the product life cycle to plan deployments and support applications using the product

Plan

Deploying Red Hat AI Inference Server in OpenShift Container Platform

Deploy Red Hat AI Inference Server in OpenShift Container Platform clusters that have supported AI accelerators installed

Deploying Red Hat AI Inference Server in a disconnected environment

Deploy Red Hat AI Inference Server in a disconnected environment using OpenShift Container Platform and a disconnected mirror image registry

Supported product and hardware configurations

Supported product and hardware configurations for deploying Red Hat AI software

Validated models

Red Hat AI validated models

Inference Operations

Inference serving language models in OCI-compliant model containers

Inferencing OCI-compliant models in Red Hat AI Inference Server

Inference serving Mistral 3 models

Inference serving Mistral 3 models with Red Hat AI Inference Server

Inference serving geospatial foundation models

Inference serving geospatial foundation models with Red Hat AI Inference Server

Red Hat AI Model Optimization Toolkit

Compressing large language models with the LLM Compressor library

Extending Red Hat AI Inference Server with tool calling capabilities

Configuring tool calling and chat templates for AI Inference Server

vLLM server arguments

Server arguments for running Red Hat AI Inference Server

Additional Resources

Red Hat AI Foundations

Explore no-cost courses to boost your AI knowledge and get hands-on experience with Red Hat AI products while earning a certificate

Red Hat AI learning hub

Explore the curated set of third‑party models validated for Red Hat AI products, ready for fast, reliable deployment

Red Hat logoGithubredditYoutubeTwitter

Lernen

Testen, kaufen und verkaufen

Communitys

Über Red Hat Dokumentation

Wir helfen Red Hat Benutzern, mit unseren Produkten und Diensten innovativ zu sein und ihre Ziele zu erreichen – mit Inhalten, denen sie vertrauen können. Entdecken Sie unsere neuesten Updates.

Mehr Inklusion in Open Source

Red Hat hat sich verpflichtet, problematische Sprache in unserem Code, unserer Dokumentation und unseren Web-Eigenschaften zu ersetzen. Weitere Einzelheiten finden Sie in Red Hat Blog.

Über Red Hat

Wir liefern gehärtete Lösungen, die es Unternehmen leichter machen, plattform- und umgebungsübergreifend zu arbeiten, vom zentralen Rechenzentrum bis zum Netzwerkrand.

Theme

© 2026 Red HatNach oben