第2章 新機能および機能拡張

このリリースでは、Caikit Standalone ServingRuntime for KServe が導入されています。これは、埋め込みモデルをサポートするシングルモデルサービングプラットフォーム用のプリインストールされたモデルサービングランタイムです。

Caikit-NLP のアップグレードバージョンでは、ランタイムに Embeddings Service のサポートが含まれており、埋め込み、文の類似性、再ランク付けタスクの推論エンドポイントが提供されます。

デフォルトでは、REST プロトコルを使用してエンドポイントにアクセスできます。gRPC プロトコルを使用するようにエンドポイントを手動で設定することもできます。

詳細は、モデルサービングランタイム を参照してください。

データサイエンスパイプラインのトライアルを作成して使用できるようになりました。パイプライントライアルは、パイプラインのさまざまな設定を試すことができるワークスペースです。トライアルを使用して、パイプラインの実行を論理グループに整理することもできます。

OpenShift AI ダッシュボードの 実験 タブから、パイプライントライアルの追跡、トライアルの実行比較、実行アーティファクトの表示および追跡、実行メトリクスの視覚化が可能です。

トライアル実行テーブルのメトリクス列をカスタマイズして、ユースケースに関連するメトリクスを表示できます。

また、トライアル内の最大 10 回の実行のメトリクスを比較し、選択したすべての実行で使用可能なパラメーター、スカラーメトリクス、混同行列、受信者動作特性 (ROC) 曲線データを表示することもできます。

詳細は、パイプライントライアルの管理 を参照してください。

Elasticsearch は、OpenShift AI で統合されたパートナーソリューションとして利用できるようになりました。

Elasticsearch には、ベクターデータベース、複数のモデルを使用する機能、検索拡張生成 (RAG) の強力な検索機能など、生成 AI を使用した次世代の検索エクスペリエンスを構築するために開発者が必要とするすべてのツールが含まれています。

Elasticsearch を使用するには、Elastic Operator をインストールする必要があります。詳細は、Elasticsearch (ECK) Operator を参照してください。

Elastic Operator のインストール後に、OpenShift AI ダッシュボードの Applications Explore で Elasticsearch を有効にできます。