aiops modules

AIOps モジュール

AIOps モジュールは、SeedFarmer CLI で動作する再利用可能な Infrastructure as Code (IAC) モジュールのコレクションです。種子農家に関するすべてのことについては、DOCS を参照してください。

このリポジトリ内のモジュールは相互に分離されており、 seedfarmerによって提供される GitOps (マニフェスト ファイル) 原則を使用して一緒に集約し、目的のユースケースを実現できます。強化されたモジュールを提供することで、エンド ユーザーにとって差別化されていない重労働が取り除かれ、エンド ユーザーはその上にビジネスを構築することに集中できるようになります。

一般情報

このリポジトリ内のモジュールは、機械学習および基盤モデル運用ドメインの特定のプロジェクトに所属せずに再利用できる汎用であるか、汎用である必要があります。

このリポジトリ内のすべてのモジュールは、SeedFarmer ガイドで定義されているモジュール構造に準拠しています。

• プロジェクトの構造
• モジュール開発
• モジュールマニフェストガイド
• 種子農家ワークショップ

導入

導入ガイドの導入手順を参照してください。

プロジェクトマニフェスト

このリポジトリ内のモジュールを使用して構築されたエンドツーエンドのユースケースの例。

タイプ	説明
Amazon SageMaker を使用した MLOps	Amazon SageMaker を使用して MLOps の環境をセットアップします。安全な Amazon SageMaker Studio ドメインをデプロイし、サービス カタログを使用してモデルのトレーニングとデプロイメントを含む SageMaker プロジェクト テンプレートをプロビジョニングします。
Ray の Amazon Elastic Kubernetes Service (EKS)	AWS EKS で Ray を実行します。自動スケーリングを有効にした AWS EKS クラスター、KubeRay Ray Operator、および Ray クラスターをデプロイします。
Amazon EKS で Ray を使用して 6B LLM (GPT-J) を微調整する	6B GPT-J LLM の微調整を実行します。 AWS EKS クラスター、KubeRay Ray Operator、自動スケーリングを有効にした Ray クラスターをデプロイし、微調整ジョブを実行します。 Amazon EKS の Ray を使用して、6B LLM を簡単かつコスト効率よく微調整するにはどうすればよいですか?
Amazon SageMaker を使用した Mlflow 追跡サーバーとモデルレジストリ	Mlflow を使用した例では、Amazon SageMaker で追跡、モデルレジストリ、LLM トレースを実験します。セルフホスト型 Mlflow 追跡サーバーとモデル レジストリを AWS Fargate および Amazon SageMaker Studio ドメイン環境にデプロイします。
機械学習トレーニング用の Apache Airflow (MWAA) を使用したマネージド ワークフロー	Apache Airflow (MWAA) のマネージド ワークフローを使用して ML トレーニング ジョブをオーケストレーションする例。 MWAA とサンプルの ML トレーニング DAG をデプロイします。
ステップ関数を使用した MLOps	Amazon SageMaker と AWS Step Functions を使用して機械学習のライフサイクルを自動化します。
ステップ関数による基盤微調整	Bedrock Fine-Tuning ジョブと AWS Step Functions を使用して、基礎モデルを継続的に微調整します。
AppSync ナレッジベースの取り込みと質疑応答 RAG	データを取り込むための Graphql エンドポイントを作成し、RAG を使用して取り込んだ質問と回答モデルのナレッジ ベースとして使用します。

モジュール

SageMaker モジュール

タイプ	説明
SageMaker スタジオ モジュール	安全な SageMaker Studio ドメイン環境をプロビジョニングし、IAM ロールにリンクされたデータ サイエンティストおよびリード データ サイエンティストのサンプル ユーザー プロファイルを作成し、ライフサイクル構成を追加します。
SageMaker エンドポイント モジュール	指定されたモデル パッケージまたはモデル パッケージ グループからの最新の承認されたモデルの SageMaker リアルタイム推論エンドポイントを作成します
Service Catalog モジュール経由の SageMaker プロジェクト テンプレート	SageMaker プロジェクト テンプレートを組織にプロビジョニングします。テンプレートは、SageMaker Studio Classic または Service Catalog を使用して利用できます。利用可能なテンプレート: - XGBoost を使用して Abalone データセットでモデルをトレーニングする - バッチ推論を実行する - マルチアカウントモデルの展開 - HuggingFace モデルインポートテンプレート - LLM の微調整と評価
SageMaker ノートブック インスタンス モジュール	データ サイエンティスト用に安全な SageMaker Notebook インスタンスを作成し、ソース コードをワークスペースにクローンします。
SageMaker カスタム カーネル モジュール	Dockerfile から SageMaker Studio のカスタム カーネルを構築します
SageMaker モデル パッケージ グループ モジュール	SageMaker モデルパッケージグループを作成して SageMaker Machine Learning (ML) モデルを登録およびバージョン管理し、モデルパッケージグループの状態変更イベントを Amazon EventBridge バスに送信するための Amazon EventBridge ルールを設定します。
SageMaker モデル パッケージ プロモート パイプライン モジュール	パイプラインをデプロイして、マルチアカウント設定で SageMaker モデル パッケージをプロモートします。パイプラインは、SageMaker モデル パッケージ グループの状態イベント変更 (承認/拒否) に反応して、EventBridge ルールを通じてトリガーできます。パイプラインがトリガーされると、最新の承認済みモデル パッケージが見つかった場合はそれをプロモートします。
SageMaker モデル監視モジュール	SageMaker Endpoint に対して実行されるデータ品質、モデル品質、モデルのバイアス、およびモデルの説明可能性を監視するジョブをデプロイします。
SageMaker モデル CICD モジュール	AWS CodePipelines を使用して包括的な CICD パイプラインを作成し、SageMaker で ML モデルを構築およびデプロイします。
SageMaker Ground Truth ラベル付けモジュール	SageMaker Ground Truth のさまざまな組み込みタスクタイプを使用して、アップロードバケットにアップロードされた画像とテキストファイルのラベル付けを可能にするステートマシンを作成します。

MLflow モジュール

タイプ	説明
MLflow画像モジュール	Mlflow Tracing Server Docker イメージを作成し、そのイメージを Elastic Container Registry にプッシュします
AWS Fargate モジュール上の Mlflow	負荷分散された Elastic Container Service の AWS Fargate で Mlflow コンテナを実行します。メタデータの永続化のための Elastic File System とリレーショナル データベース ストア、およびアーティファクト ストアのための S3 をサポート
Mlflow AI ゲートウェイ画像モジュール	Mlflow AI Gateway Docker イメージを作成し、そのイメージを Elastic Container Registry にプッシュします

FMOps/LLMOps モジュール

タイプ	説明
SageMaker JumpStart ファウンデーション モデル エンドポイント モジュール	SageMaker JumpStart Foundation Model のエンドポイントを作成します。
SageMaker ハグフェイス基盤モデルエンドポイントモジュール	SageMaker Hugging Face Foundation Model のエンドポイントを作成します。
Amazon Bedrock Finetuning モジュール	Amazon Bedrock Finetuning を自動的にトリガーするパイプラインを作成します。
AppSync ナレッジベースの取り込みと質疑応答 RAG モジュール	データを取り込むための Graphql エンドポイントを作成し、RAG を使用して取り込んだ質問と回答モデルのナレッジ ベースとして使用します。

MWAA モジュール

タイプ	説明
MLOps モジュールの DAG の例	MLOP をデモするサンプル DAG を MWAA にデプロイし、IDF の MWAA モジュールを使用します。

Step Functions モジュールを使用した MLOps

タイプ	説明
Step Functions を使用した MLOps の例	AWS Step Functions に AWS ステート マシンをデプロイし、AWS Step Functions を使用して MLOP を実装する方法を示します。

EKS モジュール

タイプ	説明
レイオペレーターモジュール	EKS 上に Ray オペレーターをプロビジョニングします。
レイクラスターモジュール	EKS 上に Ray クラスターをプロビジョニングします。レイオペレーターが必要です。
Ray オーケストレーター モジュール	小さなシェイクスピア データセットで GPT-J 6B パラメーターの大規模言語モデルを微調整し、推論を実行するサンプル Ray ジョブの送信を調整するステップ関数を作成します。
レイ画像モジュール	カスタム Ray イメージを構築して ECR にプッシュする例。

モジュール例

タイプ	説明
イベントバスモジュール	クロスアカウントイベント用の Amazon EventBridge バスを作成します。
ペルソナモジュール	このモジュールは、AI/ML プロジェクトに必要なさまざまなロールを作成する例です。

インダストリー データ フレームワーク (IDF) モジュール

このリポジトリ内のモジュールは、Industry Data Framework (IDF) モジュールと互換性があり、同じ展開内で一緒に使用できます。例については、 examples/manifestsを参照してください。

自動運転データ フレームワーク (ADDF) モジュール

このリポジトリ内のモジュールは、Autonomous Driving Data Framework (ADDF) モジュールと互換性があり、同じ展開内で一緒に使用できます。