2.3. 新しい操作機能

総所有コスト (TCO) の削減: FP8/INT8 カーネルとスキニー GEMM により、同じ GPU で 1 秒あたりに処理できるトークン数が増えます。
AMD GPU 上のより大きなモデル: ROCm は、FP8 および融合型 MoE モデルのパフォーマンスにおいて CUDA に匹敵するようになり、AMD MI300X は第一級のデプロイメントターゲットになりました。
運用の俊敏性: LoRA ホットスワップと /server_info エンドポイントにより、Pod を再起動せずにモデルの微調整のための継続的な統合とデプロイメントが可能になります。

トップに戻る

Red Hat をお使いのお客様が、信頼できるコンテンツが含まれている製品やサービスを活用することで、イノベーションを行い、目標を達成できるようにします。最新の更新を見る.

Red Hat では、コード、ドキュメント、Web プロパティーにおける配慮に欠ける用語の置き換えに取り組んでいます。このような変更は、段階的に実施される予定です。詳細情報: Red Hat ブログ.

Red Hat は、企業がコアとなるデータセンターからネットワークエッジに至るまで、各種プラットフォームや環境全体で作業を簡素化できるように、強化されたソリューションを提供しています。