FMOps ที่ยอดเยี่ยม

พื้นที่เก็บข้อมูลนี้มีสถาปัตยกรรมอ้างอิงและกรณีทดสอบสำหรับ Foundation Model Operations (FMOps) บน Amazon EKS

Foundation Model Operations (FMOps) ครอบคลุมกระบวนการแบบ end-to-end ที่เกี่ยวข้องกับการจัดการโมเดลพื้นฐาน ตั้งแต่การฝึกอบรมเบื้องต้นไปจนถึงการใช้งานและการตรวจสอบ พื้นที่เก็บข้อมูลนี้ได้รับการออกแบบเพื่อแสดงการใช้งานเฟรมเวิร์กที่แตกต่างกันในแต่ละขั้นตอนของวงจรการใช้งานโมเดลพื้นฐานและไปป์ไลน์ตั้งแต่ต้นทางถึงปลายทาง โดยเฉพาะอย่างยิ่ง FMOps ในพื้นที่เก็บข้อมูลนี้เกี่ยวข้องกับสี่ขั้นตอนต่อไปนี้: การฝึกอบรมล่วงหน้าอย่างต่อเนื่อง การปรับแต่ง การประเมิน และการปรับใช้ ส่วนต่อไปนี้ "ขั้นตอนของการดำเนินการแบบจำลองพื้นฐาน" จะอธิบายอย่างละเอียดในแต่ละขั้นตอน แต่ละไดเร็กทอรีย่อยของที่เก็บนี้ (การฝึกล่วงหน้า การปรับแต่ง การประเมิน การปรับใช้) รวมถึงกรณีทดสอบสำหรับแต่ละขั้นตอน

โครงสร้างพื้นฐานของเราถูกปรับใช้โดยใช้ Terraform โปรดดูคู่มือการปรับใช้สำหรับคู่มือการตั้งค่าโครงสร้างพื้นฐาน

ขั้นตอนการดำเนินงานแบบจำลองมูลนิธิ

Foundation Model Operations (FMOps) ครอบคลุมกระบวนการและแนวปฏิบัติที่เกี่ยวข้องกับการฝึกอบรมล่วงหน้า (ต่อเนื่อง) การปรับแต่ง การประเมิน และการปรับใช้โมเดลพื้นฐาน

FMOPs

1. (ต่อเนื่อง) การฝึกอบรมล่วงหน้า เป็นขั้นตอนเริ่มต้นที่แบบจำลองพื้นฐานได้รับการฝึกอบรมบนชุดข้อมูลที่กว้างขวางและหลากหลายเพื่อเรียนรู้ความรู้ทั่วไป ขั้นตอนนี้เกี่ยวข้องกับการใช้ข้อมูลขนาดใหญ่เพื่อพัฒนาแบบจำลองที่สามารถสรุปงานและโดเมนต่างๆ ได้ กระบวนการฝึกอบรมล่วงหน้ามักจะต่อเนื่อง ซึ่งหมายความว่าแบบจำลองจะได้รับการอัปเดตด้วยข้อมูลใหม่เป็นระยะๆ เพื่อปรับปรุงประสิทธิภาพ

2. การปรับแต่งอย่างละเอียด เกี่ยวข้องกับการปรับโมเดลพื้นฐานที่ได้รับการฝึกมาล่วงหน้าให้เข้ากับงานหรือโดเมนเฉพาะ ขั้นตอนเสริมนี้สามารถแบ่งออกเป็นสองขั้นตอนย่อย:

การปรับแต่งคำสั่ง : กระบวนการนี้เกี่ยวข้องกับการปรับปรุงความสามารถของโมเดลในการทำตามคำแนะนำหรือคำแนะนำเฉพาะ เพิ่มประสิทธิภาพให้กับงานเฉพาะโดยการให้ข้อมูลและคำแนะนำเฉพาะงานเพิ่มเติม
การจัดตำแหน่ง : ขั้นตอนย่อยนี้ช่วยให้แน่ใจว่าผลลัพธ์ของแบบจำลองสอดคล้องกับพฤติกรรมที่ต้องการและแนวปฏิบัติทางจริยธรรม โดยเกี่ยวข้องกับการปรับโมเดลเพื่อลดอคติ ปรับปรุงความปลอดภัย และตรวจสอบให้แน่ใจว่าเป็นไปตามข้อกำหนดเฉพาะของโดเมนแอปพลิเคชัน

3. การประเมิน เป็นขั้นตอนสำคัญที่เกิดขึ้นหลังจากทั้งการฝึกล่วงหน้าและการปรับแต่งอย่างละเอียด โดยเกี่ยวข้องกับการประเมินประสิทธิภาพของแบบจำลองโดยใช้เกณฑ์มาตรฐานและตัวชี้วัดที่เป็นมาตรฐาน การประเมินช่วยติดตามความคืบหน้าของแบบจำลอง ระบุพื้นที่สำหรับการปรับปรุง และตรวจสอบให้แน่ใจว่าแบบจำลองตรงตามเกณฑ์ประสิทธิภาพที่ต้องการ

4. การปรับใช้ เป็นขั้นตอนสุดท้าย โดยที่โมเดลพื้นฐานถูกรวมเข้ากับสภาพแวดล้อมการใช้งานจริง ขั้นตอนนี้ประกอบด้วย:

การให้บริการ : การทำให้โมเดลพร้อมใช้งานในแอปพลิเคชันในโลกแห่งความเป็นจริง ทำให้มั่นใจได้ว่าจะสามารถรองรับโหลดที่ต้องการและให้การตอบสนองได้ทันท่วงที
การตรวจสอบ : ติดตามประสิทธิภาพและพฤติกรรมของโมเดลในการผลิตอย่างต่อเนื่องเพื่อตรวจจับและแก้ไขปัญหาใดๆ เช่น ประสิทธิภาพลดลงหรือเอาท์พุตที่ไม่คาดคิด การตรวจสอบยังเกี่ยวข้องกับการอัปเดตแบบจำลองตามความจำเป็นเพื่อรักษาประสิทธิภาพและความเกี่ยวข้อง

เมื่อปฏิบัติตามขั้นตอนเหล่านี้ องค์กรต่างๆ จะสามารถพัฒนา ปรับแต่ง ประเมิน และปรับใช้โมเดลพื้นฐานได้อย่างมีประสิทธิภาพ ทำให้มั่นใจได้ว่าจะส่งมอบประสิทธิภาพสูงและสอดคล้องกับกรณีการใช้งานที่ตั้งใจไว้และมาตรฐานทางจริยธรรม