AWSome FMOps

このリポジトリには、Amazon EKS の Foundation Model Operations (FMOps) のリファレンスアーキテクチャとテストケースが含まれています。

Foundation Model Operations (FMOps) には、初期の事前トレーニングから展開および監視に至るまで、基盤モデルの管理に関わるエンドツーエンドのプロセスが含まれます。このリポジトリは、基盤モデルのライフサイクルとエンドツーエンドのパイプラインの各段階でのさまざまなフレームワークの使用法を紹介するように設計されています。具体的には、このリポジトリの FMOps には、継続的な事前トレーニング、微調整、評価、展開という 4 つの段階が含まれます。次のセクション「基礎モデル操作の段階」では、各段階について詳しく説明します。このリポジトリの各サブディレクトリ (事前トレーニング、微調整、評価、展開) には、各段階のテストケースが含まれています。

私たちのインフラストラクチャは Terraform を使用してデプロイされています。インフラストラクチャ設定ガイドについては、導入ガイドを参照してください。

基礎モデルの運用の段階

基盤モデル操作 (FMOps) には、基盤モデルの (継続的な) 事前トレーニング、微調整、評価、展開に関わるプロセスと実践が含まれます。

FMOps

1. (継続的) 事前トレーニングは、基礎モデルが広く多様なデータセットでトレーニングされ、一般知識を学習する初期段階です。この段階では、大規模なデータを使用して、さまざまなタスクやドメインにわたって一般化できるモデルを開発します。事前トレーニングプロセスは多くの場合継続的です。つまり、モデルはパフォーマンスを向上させるために新しいデータで定期的に更新されます。

2. 微調整には、事前トレーニングされた基礎モデルを特定のタスクまたはドメインに適応させることが含まれます。このオプションのステージは、次の 2 つのサブステージに分割できます。

命令チューニング: このプロセスには、特定の命令やプロンプトに従うモデルの能力を調整し、追加のタスク固有のデータと命令を提供することで特定のタスクでのパフォーマンスを向上させることが含まれます。
調整: このサブステージでは、モデルの出力が望ましい行動および倫理ガイドラインと一致していることを確認します。これには、モデルを調整してバイアスを軽減し、安全性を向上させ、アプリケーションドメインの特定の要件を確実に満たすことが含まれます。

3. 評価は、事前トレーニングと微調整の両方の後に発生する重要な段階です。これには、標準化されたベンチマークとメトリクスを使用してモデルのパフォーマンスを評価することが含まれます。評価は、モデルの進行状況を追跡し、改善の余地がある領域を特定し、モデルが望ましいパフォーマンス基準を満たしていることを確認するのに役立ちます。

4. 導入は最終段階であり、基礎モデルが運用環境に統合されます。この段階には次のものが含まれます。

サービス提供: モデルを実際のアプリケーションで使用できるようにし、必要な負荷を処理し、タイムリーな応答を提供できるようにします。
モニタリング: 本番環境でのモデルのパフォーマンスと動作を継続的に追跡し、パフォーマンスの低下や予期しない出力などの問題を検出して対処します。モニタリングには、有効性と関連性を維持するために必要に応じてモデルを更新することも含まれます。

これらの段階に従うことで、組織は基礎モデルを効果的に開発、微調整、評価、展開することができ、確実に高いパフォーマンスを提供し、意図されたユースケースと倫理基準に適合するようにすることができます。