Dieser Inhalt ist in der von Ihnen ausgewählten Sprache nicht verfügbar.

Chapter 1. About RHEL AI


Red Hat Enterprise Linux AI is a portable bootc image built on Red Hat Enterprise Linux (RHEL) that you can use for inference serving large language models (LLMs) in the cloud or on bare metal. RHEL AI leverages the upstream vLLM project that provides state-of-the-art inferencing and model compression features. RHEL AI is validated and certified as part of the Red Hat AI portfolio.

Red Hat Enterprise Linux AI integrates the following Red Hat AI features:

Red Hat AI Inference Server
Run your choice of models across accelerators and Linux environments.
Red Hat AI Model Optimization Toolkit
Compress models to optimize AI accelerators and compute, reducing compute costs while maintaining high model accuracy.
Pre-optimized validated models
With Red Hat Enterprise Linux AI, you have access to a collection of near-upstream optimized models ready for inference deployment with support for vLLM and validated hardware.
Nach oben
Red Hat logoGithubredditYoutubeTwitter

Lernen

Testen, kaufen und verkaufen

Communitys

Über Red Hat Dokumentation

Wir helfen Red Hat Benutzern, mit unseren Produkten und Diensten innovativ zu sein und ihre Ziele zu erreichen – mit Inhalten, denen sie vertrauen können. Entdecken Sie unsere neuesten Updates.

Mehr Inklusion in Open Source

Red Hat hat sich verpflichtet, problematische Sprache in unserem Code, unserer Dokumentation und unseren Web-Eigenschaften zu ersetzen. Weitere Einzelheiten finden Sie in Red Hat Blog.

Über Red Hat

Wir liefern gehärtete Lösungen, die es Unternehmen leichter machen, plattform- und umgebungsübergreifend zu arbeiten, vom zentralen Rechenzentrum bis zum Netzwerkrand.

Theme

© 2025 Red Hat