Deploy models using Distributed Inference with llm-d

Red Hat OpenShift AI Self-Managed 3.4

Deploy and serve large language models at scale in Red Hat OpenShift AI

Abstract

As an administrator, you can use distributed inference to deploy and serve large language models at scale on Red Hat OpenShift AI.

Red Hat をお使いのお客様が、信頼できるコンテンツが含まれている製品やサービスを活用することで、イノベーションを行い、目標を達成できるようにします。最新の更新を見る.

Red Hat では、コード、ドキュメント、Web プロパティーにおける配慮に欠ける用語の置き換えに取り組んでいます。このような変更は、段階的に実施される予定です。詳細情報: Red Hat ブログ.

Red Hat は、企業がコアとなるデータセンターからネットワークエッジに至るまで、各種プラットフォームや環境全体で作業を簡素化できるように、強化されたソリューションを提供しています。

トップに戻る