AWSome FMOps

이 리포지토리에는 Amazon EKS의 FMOps(Foundation Model Operations)에 대한 참조 아키텍처와 테스트 사례가 포함되어 있습니다.

FMOps(Foundation Model Operations)는 초기 사전 훈련부터 배포 및 모니터링까지 기초 모델 관리와 관련된 엔드투엔드 프로세스를 포괄합니다. 이 저장소는 기초 모델 수명주기와 엔드투엔드 파이프라인의 각 단계에서 다양한 프레임워크의 사용을 보여주기 위해 설계되었습니다. 특히 이 리포지토리의 FMOps에는 지속적인 사전 훈련, 미세 조정, 평가 및 배포의 4가지 단계가 포함됩니다. 다음 섹션인 "재단 모델 작업 단계"에서는 각 단계를 자세히 설명합니다. 이 저장소의 각 하위 디렉터리(사전 훈련, 미세 조정, 평가, 배포)에는 각 단계에 대한 테스트 사례가 포함되어 있습니다.

우리 인프라는 Terraform을 사용하여 배포됩니다. 인프라 설정 가이드는 배포 가이드를 참조하세요.

기초 모델 운영 단계

FMOps(Foundation Model Operations)는 (지속적인) 사전 학습, 미세 조정, 평가 및 기반 모델 배포와 관련된 프로세스와 사례를 포괄합니다.

FMOps

1. (지속) 사전 학습은 기초 모델이 일반 지식을 학습하기 위해 광범위하고 다양한 데이터 세트에 대해 학습되는 초기 단계입니다. 이 단계에는 대규모 데이터를 사용하여 다양한 작업과 도메인에 걸쳐 일반화할 수 있는 모델을 개발하는 작업이 포함됩니다. 사전 학습 프로세스는 연속적인 경우가 많습니다. 즉, 성능을 개선하기 위해 모델이 정기적으로 새 데이터로 업데이트됩니다.

2. 미세 조정 에는 사전 학습된 기초 모델을 특정 작업이나 영역에 적용하는 작업이 포함됩니다. 이 선택적 단계는 두 개의 하위 단계로 나눌 수 있습니다.

지침 조정 : 이 프로세스에는 특정 지침이나 프롬프트를 따르는 모델의 능력을 개선하고 추가 작업별 데이터 및 지침을 제공하여 특정 작업에 대한 성능을 향상시키는 작업이 포함됩니다.
정렬 : 이 하위 단계에서는 모델의 출력이 원하는 행동 및 윤리 지침과 일치하는지 확인합니다. 여기에는 편견을 줄이고 안전성을 향상시키며 응용 분야의 특정 요구 사항을 충족하도록 모델을 조정하는 작업이 포함됩니다.

3. 평가는 사전 훈련과 미세 조정 후에 발생하는 중요한 단계입니다. 여기에는 표준화된 벤치마크 및 지표를 사용하여 모델 성능을 평가하는 작업이 포함됩니다. 평가는 모델의 진행 상황을 추적하고, 개선이 필요한 영역을 식별하고, 모델이 원하는 성능 기준을 충족하는지 확인하는 데 도움이 됩니다.

4. 배포는 기초 모델이 프로덕션 환경에 통합되는 마지막 단계입니다. 이 단계에는 다음이 포함됩니다.

서빙(Serving) : 모델을 실제 애플리케이션에서 사용할 수 있도록 만들어 필요한 로드를 처리하고 적시에 응답을 제공할 수 있는지 확인합니다.
모니터링 : 생산 과정에서 모델의 성능과 동작을 지속적으로 추적하여 성능 저하 또는 예상치 못한 출력과 같은 문제를 감지하고 해결합니다. 모니터링에는 효율성과 관련성을 유지하기 위해 필요에 따라 모델을 업데이트하는 작업도 포함됩니다.

이러한 단계를 수행함으로써 조직은 기반 모델을 효과적으로 개발, 미세 조정, 평가 및 배포하여 높은 성능을 제공하고 의도된 사용 사례 및 윤리 표준에 부합하도록 보장할 수 있습니다.