Red Hat Summit第1章 OpenShift AI のアーキテクチャー
Red Hat OpenShift AI は、Red Hat が完全に管理するクラウドサービスであり、Red Hat OpenShift Dedicated および Red Hat OpenShift Service on Amazon Web Services (ROSA classic) でアドオンとして利用できます。
OpenShift AI は、以下のコンポーネントとサービスを統合します。
サービス層にて:
- OpenShift AI ダッシュボード
OpenShift AI 環境で利用可能なインストール済みアプリケーションと、チュートリアル、クイックスタートサンプル、ドキュメントなどの学習リソースを表示する、お客様向けのダッシュボード。ダッシュボードからは、ユーザー管理、クラスター設定、アクセラレータープロファイル、ハードウェアプロファイル、ワークベンチイメージ設定などの管理機能にアクセスすることもできます。さらに、データサイエンティストはダッシュボードから独自のプロジェクトを作成できます。これにより、データサイエンスに関連する作業を 1 つのプロジェクトにまとめることができます。
重要デフォルトでは、ハードウェアプロファイルはダッシュボードのナビゲーションメニューとユーザーインターフェイスに表示されませんが、アクセラレータープロファイルは表示されます。非推奨となったアクセラレータープロファイル機能に関連付けられたユーザーインターフェイスコンポーネントは、引き続き表示されます。ダッシュボードのナビゲーションメニューの Settings
Hardware profiles オプションと、ハードウェアプロファイルに関連付けられたユーザーインターフェイスコンポーネントを表示するには、OpenShift の OdhDashboardConfigカスタムリソース (CR) で、disableHardwareProfiles値をfalseに設定します。ダッシュボード設定オプションの設定に関する詳細は、ダッシュボードのカスタマイズ を参照してください。- モデルサービング
- データサイエンティストは、トレーニングされた機械学習モデルをデプロイして、実稼働環境でインテリジェントなアプリケーションを提供できます。デプロイした後、アプリケーションはデプロイされた API エンドポイントを使用してモデルにリクエストを送信できます。
- データサイエンスパイプライン
- データサイエンティストは、Docker コンテナーを使用して、Data Science Pipelines 2.0 を備えたポータブルな機械学習 (ML) ワークフローを構築できます。データサイエンスパイプラインを使用すると、データサイエンティストはデータサイエンスモデルを開発しながらワークフローを自動化できます。
- Jupyter (Red Hat 管理)
- データサイエンティストが基本的なスタンドアロンワークベンチを設定し、JupyterLab で機械学習モデルを開発できるようにする Red Hat 管理アプリケーション。
- 分散ワークロード
- データサイエンティストは、複数のノードを並行して使用して、機械学習モデルをトレーニングしたり、データをより迅速に処理したりできます。このアプローチにより、タスクの完了時間が大幅に短縮され、より大規模なデータセットとより複雑なモデルの使用が可能になります。
- 検索拡張生成 (RAG)
- データサイエンティストや AI エンジニアは、統合された Llama Stack Operator によって提供される検索拡張生成 (RAG) 機能を活用できます。データサイエンティストや AI エンジニアは、大規模言語モデル推論、セマンティック検索、ベクトルデータベースストレージを組み合わせることで、データサイエンスプロジェクト内の独自のデータセットに基づいて、複雑なクエリーに対して、正確かつ検証可能で、カスタマイズされた回答を得ることができます。
管理層にて:
- Red Hat OpenShift AI Operator
- OpenShift AI の一部であるすべてのコンポーネントとサブ Operator をデプロイおよび維持するメタ Operator。
- 監視サービス
- Alertmanager、OpenShift Telemetry、Prometheus は連携して、OpenShift AI からメトリクスを収集し、モニタリングと請求の目的で役立つ方法でそれらのメトリクスを整理および表示します。Alertmanager からのアラートは PagerDuty に送信され、マネージドクラウドサービスの問題を Red Hat に通知します。
OpenShift Cluster Manager に Red Hat OpenShift AI アドオンをインストールすると、次の新しいプロジェクトが作成されます。
-
redhat-ods-operatorプロジェクトには、Red Hat OpenShift AI Operator が含まれています。 -
redhat-ods-applicationsプロジェクトには、OpenShift AI のダッシュボードおよびその他の必要なコンポーネントが含まれます。 -
redhat-ods-monitoringプロジェクトには、監視と請求のためのサービスが含まれています。 -
rhods-notebooksプロジェクトは、基本的なワークベンチがデフォルトでデプロイされる場所です。
ユーザーやデータサイエンティストは、機械学習モデルを使用するアプリケーション用の追加プロジェクトを作成する必要があります。
ダッシュボードのアプリケーションタイルで特に指示がない限り、OpenShift AI アドオンに関連付けられた namespace に独立系ソフトウェアベンダー (ISV) アプリケーションをインストールしないでください。
'%20d='M201.5%20305.5c-13.8%200-24.9-11.1-24.9-24.6%200-13.8%2011.1-24.9%2024.9-24.9%2013.6%200%2024.6%2011.1%2024.6%2024.9%200%2013.6-11.1%2024.6-24.6%2024.6zM504%20256c0%20137-111%20248-248%20248S8%20393%208%20256%20119%208%20256%208s248%20111%20248%20248zm-132.3-41.2c-9.4%200-17.7%203.9-23.8%2010-22.4-15.5-52.6-25.5-86.1-26.6l17.4-78.3%2055.4%2012.5c0%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.3%2024.9-24.9s-11.1-24.9-24.9-24.9c-9.7%200-18%205.8-22.1%2013.8l-61.2-13.6c-3-.8-6.1%201.4-6.9%204.4l-19.1%2086.4c-33.2%201.4-63.1%2011.3-85.5%2026.8-6.1-6.4-14.7-10.2-24.1-10.2-34.9%200-46.3%2046.9-14.4%2062.8-1.1%205-1.7%2010.2-1.7%2015.5%200%2052.6%2059.2%2095.2%20132%2095.2%2073.1%200%20132.3-42.6%20132.3-95.2%200-5.3-.6-10.8-1.9-15.8%2031.3-16%2019.8-62.5-14.9-62.5zM302.8%20331c-18.2%2018.2-76.1%2017.9-93.6%200-2.2-2.2-6.1-2.2-8.3%200-2.5%202.5-2.5%206.4%200%208.6%2022.8%2022.8%2087.3%2022.8%20110.2%200%202.5-2.2%202.5-6.1%200-8.6-2.2-2.2-6.1-2.2-8.3%200zm7.7-75c-13.6%200-24.6%2011.1-24.6%2024.9%200%2013.6%2011.1%2024.6%2024.6%2024.6%2013.8%200%2024.9-11.1%2024.9-24.6%200-13.8-11-24.9-24.9-24.9z'/%3e%3c/svg%3e){kind=small}