LLM Compressor

Red Hat AI Inference Server 3.0

Red Hat AI Documentation Team

概要

LLM Compressor ライブラリーと、推論前に大規模な言語モデルを最適化および圧縮するためにこのライブラリーを使用する方法を説明します。

トップに戻る

Red Hat をお使いのお客様が、信頼できるコンテンツが含まれている製品やサービスを活用することで、イノベーションを行い、目標を達成できるようにします。最新の更新を見る.

Red Hat では、コード、ドキュメント、Web プロパティーにおける配慮に欠ける用語の置き換えに取り組んでいます。このような変更は、段階的に実施される予定です。詳細情報: Red Hat ブログ.

Red Hat は、企業がコアとなるデータセンターからネットワークエッジに至るまで、各種プラットフォームや環境全体で作業を簡素化できるように、強化されたソリューションを提供しています。