aiops modules

โมดูล AIOps

โมดูล AIOps คือชุดของโมดูล Infrastructure as Code (IAC) ที่นำมาใช้ซ้ำได้ ซึ่งทำงานร่วมกับ SeedFarmer CLI โปรดดู DOCS สำหรับทุกสิ่งเกี่ยวกับเกษตรกรผู้เพาะเมล็ด

โมดูลในพื้นที่เก็บข้อมูลนี้จะแยกออกจากกันและสามารถรวมเข้าด้วยกันได้โดยใช้หลักการ GitOps (ไฟล์ Manifest) ที่จัดทำโดย seedfarmer และบรรลุกรณีการใช้งานที่ต้องการ ช่วยขจัดการยกของหนักที่ไม่แตกต่างสำหรับผู้ใช้ปลายทางโดยการจัดหาโมดูลที่มีความแข็งและทำให้พวกเขามุ่งเน้นไปที่การสร้างธุรกิจที่อยู่ด้านบนสุดได้

ข้อมูลทั่วไป

โมดูลในพื้นที่เก็บข้อมูลนี้เป็น/ต้องเป็นแบบทั่วไปเพื่อนำมาใช้ซ้ำโดยไม่เกี่ยวข้องกับโครงการใดโครงการหนึ่งในโดเมน Machine Learning และ Foundation Model Operations

โมดูลทั้งหมดในพื้นที่เก็บข้อมูลนี้ยึดตามโครงสร้างโมดูลที่กำหนดไว้ในคู่มือ SeedFarmer

• โครงสร้างโครงการ
• การพัฒนาโมดูล
• คู่มือรายการโมดูล
• การประชุมเชิงปฏิบัติการเกษตรกรเมล็ดพันธุ์

การปรับใช้

ดูขั้นตอนการปรับใช้ในคู่มือการปรับใช้งาน

ประกาศโครงการ

กรณีการใช้งานตัวอย่างแบบครบวงจรที่สร้างขึ้นโดยใช้โมดูลในพื้นที่เก็บข้อมูลนี้

พิมพ์	คำอธิบาย
MLOps กับ Amazon SageMaker	ตั้งค่าสภาพแวดล้อมสำหรับ MLOps ด้วย Amazon SageMaker ปรับใช้โดเมน Amazon SageMaker Studio ที่ปลอดภัย และจัดเตรียมเทมเพลตโปรเจ็กต์ SageMaker โดยใช้ Service Catalog รวมถึงการฝึกอบรมโมเดลและการปรับใช้
Ray บน Amazon Elastic Kubernetes Service (EKS)	เรียกใช้ Ray บน AWS EKS ปรับใช้คลัสเตอร์ AWS EKS, KubeRay Ray Operator และ Ray Cluster ที่เปิดใช้งานการปรับขนาดอัตโนมัติ
ปรับแต่ง 6B LLM (GPT-J) โดยใช้ Ray บน Amazon EKS	ดำเนินการปรับแต่ง 6B GPT-J LLM ปรับใช้คลัสเตอร์ AWS EKS, KubeRay Ray Operator และ Ray Cluster ที่เปิดใช้งานการปรับขนาดอัตโนมัติ และรันงานการปรับแต่งอย่างละเอียด จะปรับแต่ง 6B LLM อย่างง่ายดายและคุ้มค่าโดยใช้ Ray บน Amazon EKS ได้อย่างไร
เซิร์ฟเวอร์การติดตาม Mlflow และรีจิสตรีโมเดลด้วย Amazon SageMaker	ตัวอย่างการใช้การติดตามการทดลอง Mlflow, การลงทะเบียนโมเดล และการติดตาม LLM ด้วย Amazon SageMaker ปรับใช้เซิร์ฟเวอร์การติดตาม Mlflow ที่โฮสต์เองและการลงทะเบียนโมเดลบน AWS Fargate และสภาพแวดล้อมโดเมน Amazon SageMaker Studio
เวิร์กโฟลว์ที่ได้รับการจัดการด้วย Apache Airflow (MWAA) สำหรับการฝึกอบรม Machine Learning	ตัวอย่างการจัดงานการฝึกอบรม ML ด้วยเวิร์กโฟลว์ที่ได้รับการจัดการสำหรับ Apache Airflow (MWAA) ปรับใช้ MWAA และตัวอย่างการฝึกอบรม ML DAG
MLOps พร้อมฟังก์ชั่นขั้นตอน	ทำให้วงจรการเรียนรู้ของเครื่องเป็นอัตโนมัติโดยใช้ Amazon SageMaker และ AWS Step Functions
การปรับแต่งแบบละเอียดของ Bedrock พร้อมฟังก์ชั่นสเต็ป	ปรับแต่งโมเดลพื้นฐานอย่างละเอียดอย่างต่อเนื่องด้วยงานการปรับแต่ง Bedrock และ AWS Step Functions
การนำเข้าฐานความรู้ของ AppSync และคำถามและการตอบ RAG	สร้างตำแหน่งข้อมูล Graphql สำหรับการนำเข้าข้อมูลและใช้เป็นฐานความรู้สำหรับโมเดลคำถามและคำตอบโดยใช้ RAG

โมดูล

โมดูล SageMaker

พิมพ์	คำอธิบาย
โมดูลสตูดิโอ SageMaker	จัดเตรียมสภาพแวดล้อมโดเมน SageMaker Studio ที่ปลอดภัย สร้างตัวอย่างโปรไฟล์ผู้ใช้สำหรับ Data Scientist และ Lead Data Scientist ที่เชื่อมโยงกับบทบาท IAM และเพิ่มการกำหนดค่าวงจรชีวิต
โมดูลปลายทาง SageMaker	สร้างจุดสิ้นสุดการอนุมานแบบเรียลไทม์ของ SageMaker สำหรับแพ็คเกจโมเดลที่ระบุหรือโมเดลที่ได้รับอนุมัติล่าสุดจากกลุ่มแพ็คเกจโมเดล
เทมเพลตโครงการ SageMaker ผ่านโมดูลแคตตาล็อกบริการ	จัดเตรียมเทมเพลตโปรเจ็กต์ SageMaker สำหรับองค์กร เทมเพลตพร้อมใช้งานโดยใช้ SageMaker Studio Classic หรือ Service Catalog เทมเพลตที่ใช้ได้: - ฝึกฝนโมเดลบนชุดข้อมูล Abalone โดยใช้ XGBoost - ดำเนินการอนุมานแบบแบตช์ - การใช้งานโมเดลหลายบัญชี - เทมเพลตการนำเข้าโมเดล HuggingFace - การปรับแต่ง LLM และการประเมินผล
โมดูลอินสแตนซ์โน้ตบุ๊ก SageMaker	สร้างอินสแตนซ์โน้ตบุ๊ก SageMaker ที่ปลอดภัยสำหรับนักวิทยาศาสตร์ข้อมูล โคลนซอร์สโค้ดไปยังพื้นที่ทำงาน
โมดูลเคอร์เนลแบบกำหนดเองของ SageMaker	สร้างเคอร์เนลแบบกำหนดเองสำหรับ SageMaker Studio จาก Dockerfile
โมดูลกลุ่มแพ็กเกจโมเดล SageMaker	สร้างกลุ่มแพ็คเกจโมเดล SageMaker เพื่อลงทะเบียนและกำหนดเวอร์ชันโมเดล SageMaker Machine Learning (ML) และตั้งค่ากฎ Amazon EventBridge เพื่อส่งเหตุการณ์การเปลี่ยนแปลงสถานะกลุ่มแพ็คเกจโมเดลไปยัง Amazon EventBridge Bus
แพ็คเกจโมเดล SageMaker ส่งเสริมโมดูลไปป์ไลน์	ปรับใช้ไปป์ไลน์เพื่อโปรโมตแพ็คเกจโมเดล SageMaker ในการตั้งค่าหลายบัญชี ไปป์ไลน์สามารถทริกเกอร์ผ่านกฎ EventBridge เพื่อตอบสนองต่อการเปลี่ยนแปลงสถานะของกลุ่มแพ็คเกจโมเดล SageMaker (อนุมัติ/ปฏิเสธ) เมื่อไปป์ไลน์ถูกทริกเกอร์ มันจะเลื่อนระดับแพ็คเกจโมเดลที่ได้รับอนุมัติล่าสุด หากพบ
โมดูลการตรวจสอบโมเดล SageMaker	ปรับใช้งานคุณภาพข้อมูล คุณภาพของโมเดล อคติของโมเดล และงานตรวจสอบความสามารถในการอธิบายโมเดลซึ่งทำงานโดยเทียบกับ SageMaker Endpoint
โมดูล CICD รุ่น SageMaker	สร้างไปป์ไลน์ CICD ที่ครอบคลุมโดยใช้ AWS CodePipelines เพื่อสร้างและปรับใช้โมเดล ML บน SageMaker
โมดูลการติดฉลากความจริงภาคพื้นดินของ SageMaker	สร้างเครื่องสถานะเพื่ออนุญาตการติดป้ายกำกับรูปภาพและไฟล์ข้อความ อัปโหลดไปยังที่เก็บข้อมูลการอัปโหลด โดยใช้งานประเภทงานในตัวที่หลากหลายใน SageMaker Ground Truth

โมดูล Mlflow

พิมพ์	คำอธิบาย
โมดูลรูปภาพ Mlflow	สร้างอิมเมจ Mlflow Tracing Server Docker และพุชอิมเมจไปที่ Elastic Container Registry
Mlflow บนโมดูล AWS Fargate	รันคอนเทนเนอร์ Mlflow บน AWS Fargate ใน Elastic Container Service ที่ปรับสมดุลโหลด รองรับ Elastic File System และ Relational Database Store เพื่อความคงอยู่ของ metadata และ S3 สำหรับ artifact store
โมดูลรูปภาพเกตเวย์ Mlflow AI	สร้างอิมเมจ Mlflow AI Gateway Docker และพุชอิมเมจไปยัง Elastic Container Registry

โมดูล FMOps/LLMOps

พิมพ์	คำอธิบาย
โมดูลจุดสิ้นสุดโมเดล SageMaker JumpStart Foundation	สร้างตำแหน่งข้อมูลสำหรับโมเดล SageMaker JumpStart Foundation
โมดูลจุดสิ้นสุดโมเดล SageMaker Hugging Face Foundation	สร้างจุดสิ้นสุดสำหรับโมเดล SageMaker Hugging Face Foundation
โมดูลการปรับแต่ง Amazon Bedrock	สร้างไปป์ไลน์ที่จะทริกเกอร์ Amazon Bedrock Finetuning โดยอัตโนมัติ
การนำเข้าฐานความรู้ของ AppSync และโมดูลคำถามและการตอบ RAG	สร้างตำแหน่งข้อมูล Graphql สำหรับการนำเข้าข้อมูลและใช้เป็นฐานความรู้สำหรับโมเดลคำถามและคำตอบโดยใช้ RAG

โมดูลการประปานครหลวง

พิมพ์	คำอธิบาย
ตัวอย่าง DAG สำหรับโมดูล MLOps	ปรับใช้ DAG ตัวอย่างใน MWAA สาธิต MLOPs และใช้โมดูล MWAA จาก IDF

MLOps โดยใช้โมดูล Step Functions

พิมพ์	คำอธิบาย
ตัวอย่างสำหรับ MLOps ที่ใช้ Step Functions	ปรับใช้ AWS State Machine ใน AWS Step Functions สาธิตวิธีใช้งาน MLOP โดยใช้ AWS Step Functions

โมดูล EKS

พิมพ์	คำอธิบาย
โมดูลตัวดำเนินการเรย์	จัดเตรียมตัวดำเนินการ Ray บน EKS
โมดูลคลัสเตอร์เรย์	จัดเตรียม Ray Cluster บน EKS ต้องใช้ตัวดำเนินการเรย์
โมดูลเรย์ออร์เคสตราเตอร์	สร้าง Step Function เพื่อจัดเตรียมการส่งตัวอย่างงาน Ray ที่ปรับแต่งพารามิเตอร์ GPT-J 6B โมเดลภาษาขนาดใหญ่บนชุดข้อมูลเชคสเปียร์ขนาดเล็กและทำการอนุมาน
โมดูลภาพเรย์	ตัวอย่างที่สร้างอิมเมจ Ray แบบกำหนดเองและพุชไปที่ ECR

ตัวอย่างโมดูล

พิมพ์	คำอธิบาย
โมดูลบัสเหตุการณ์	สร้าง Amazon EventBridge Bus สำหรับเหตุการณ์ข้ามบัญชี
โมดูลบุคคล	โมดูลนี้เป็นตัวอย่างที่สร้างบทบาทต่างๆ ที่จำเป็นสำหรับโครงการ AI/ML

โมดูลกรอบข้อมูลอุตสาหกรรม (IDF)

โมดูลในพื้นที่เก็บข้อมูลนี้เข้ากันได้กับโมดูล Industry Data Framework (IDF) และสามารถใช้ร่วมกันภายในการปรับใช้เดียวกัน อ้างถึง examples/manifests สำหรับตัวอย่าง

โมดูลกรอบข้อมูลการขับขี่อัตโนมัติ (ADDF)

โมดูลในพื้นที่เก็บข้อมูลนี้เข้ากันได้กับโมดูลกรอบข้อมูลการขับขี่อัตโนมัติ (ADDF) และสามารถใช้ร่วมกันภายในการใช้งานเดียวกัน