はじめに

Red Hat は、AI Inference Server でサービングできる検証済みのサードパーティーモデルを提供します。これらのモデルは、Red Hat AI プラットフォーム上で効率的なデプロイメントを実行するために設計されています。モデルはオープンソースツールを使用して検証されます。Red Hat は、パフォーマンスベンチマークに GuideLLM を使用し、精度評価に Language Model Evaluation Harness を使用します。