FMOps yang luar biasa

Repositori ini berisi arsitektur referensi dan kasus uji untuk Foundation Model Operations (FMOps) di Amazon EKS.

Foundation Model Operations (FMOps) mencakup proses end-to-end yang terlibat dalam pengelolaan model fondasi, mulai dari pra-pelatihan awal hingga penerapan dan pemantauan. Repositori ini dirancang untuk menampilkan penggunaan kerangka kerja yang berbeda pada setiap tahap siklus hidup model dasar dan alur end-to-end. Secara khusus, FMOps dalam repositori ini melibatkan empat tahap berikut: pra-pelatihan berkelanjutan, penyesuaian, evaluasi, dan penerapan. Bagian berikut, "Tahapan Operasi Model Fondasi", menguraikan setiap tahapan. Setiap subdirektori repositori ini (pelatihan, penyesuaian, evaluasi, penerapan) mencakup kasus uji untuk setiap tahap.

Infrastruktur kami diterapkan menggunakan Terraform. Silakan merujuk ke panduan penerapan untuk panduan pengaturan infrastruktur.

Tahapan Operasi Model Fondasi

Operasi Model Fondasi (FMOps) mencakup proses dan praktik yang terlibat dalam pra-pelatihan (berkelanjutan), penyesuaian, evaluasi, dan penerapan model fondasi.

FMOps

1. (Continuous) Pretraining merupakan tahap awal dimana model dasar dilatih pada dataset yang luas dan beragam untuk mempelajari pengetahuan umum. Tahap ini melibatkan penggunaan data berskala besar untuk mengembangkan model yang dapat digeneralisasikan ke berbagai tugas dan domain. Proses pra-pelatihan sering kali berkelanjutan, artinya model diperbarui secara berkala dengan data baru untuk meningkatkan performanya.

2. Penyempurnaan melibatkan adaptasi model landasan yang telah dilatih sebelumnya untuk tugas atau domain tertentu. Tahap opsional ini dapat dibagi menjadi dua sub-tahap:

Penyetelan instruksi : Proses ini melibatkan penyempurnaan kemampuan model untuk mengikuti instruksi atau petunjuk tertentu, meningkatkan kinerjanya pada tugas tertentu dengan menyediakan data dan instruksi tambahan yang spesifik untuk tugas tersebut.
Penyelarasan : Sub-tahap ini memastikan bahwa keluaran model selaras dengan perilaku dan pedoman etika yang diinginkan. Hal ini melibatkan penyesuaian model untuk mengurangi bias, meningkatkan keamanan, dan memastikan bahwa model tersebut memenuhi persyaratan spesifik domain aplikasi.

3. Evaluasi adalah tahap kritis yang terjadi setelah pra-pelatihan dan penyempurnaan. Ini melibatkan penilaian kinerja model menggunakan tolok ukur dan metrik standar. Evaluasi membantu melacak kemajuan model, mengidentifikasi area yang perlu ditingkatkan, dan memastikan bahwa model memenuhi kriteria kinerja yang diinginkan.

4. Deployment adalah tahap akhir, dimana model dasar diintegrasikan ke dalam lingkungan produksi. Tahap ini meliputi:

Penyajian : Membuat model tersedia untuk digunakan dalam aplikasi dunia nyata, memastikan model dapat menangani beban yang diperlukan dan memberikan respons tepat waktu.
Pemantauan : Terus melacak performa dan perilaku model dalam produksi untuk mendeteksi dan mengatasi masalah apa pun, seperti penurunan performa atau keluaran yang tidak terduga. Pemantauan juga melibatkan pemutakhiran model sesuai kebutuhan untuk menjaga efektivitas dan relevansinya.

Dengan mengikuti tahapan ini, organisasi dapat secara efektif mengembangkan, menyempurnakan, mengevaluasi, dan menerapkan model dasar, memastikan model tersebut memberikan kinerja tinggi dan selaras dengan kasus penggunaan dan standar etika yang diinginkan.