LLM Compressor

Red Hat AI Inference Server 3.0

LLM Compressor ライブラリーを使用した大規模言語モデルの圧縮

Red Hat AI Documentation Team

概要

LLM Compressor ライブラリーと、推論前に大規模な言語モデルを最適化および圧縮するためにこのライブラリーを使用する方法を説明します。

Red Hat は、企業がコアとなるデータセンターからネットワークエッジに至るまで、各種プラットフォームや環境全体で作業を簡素化できるように、強化されたソリューションを提供しています。

Red Hat では、コード、ドキュメント、Web プロパティーにおける配慮に欠ける用語の置き換えに取り組んでいます。このような変更は、段階的に実施される予定です。詳細情報: Red Hat ブログ.

Red Hat をお使いのお客様が、信頼できるコンテンツが含まれている製品やサービスを活用することで、イノベーションを行い、目標を達成できるようにします。最新の更新を見る.

トップに戻る