AI generatif dengan LLM
Dalam AI Generatif dengan Model Bahasa Besar (LLM), Anda akan mempelajari dasar-dasar cara kerja AI generatif, dan cara menerapkannya dalam aplikasi dunia nyata.
Dengan mengikuti kursus ini, Anda akan belajar untuk:
- Memahami AI generatif secara mendalam, menjelaskan langkah-langkah penting dalam siklus hidup AI generatif berbasis LLM, mulai dari pengumpulan data dan pemilihan model, hingga evaluasi kinerja dan penerapan
- Jelaskan secara rinci arsitektur transformator yang mendukung LLM, cara pelatihannya, dan bagaimana penyesuaian memungkinkan LLM diadaptasi ke berbagai kasus penggunaan spesifik
- Gunakan hukum penskalaan empiris untuk mengoptimalkan fungsi tujuan model di seluruh ukuran kumpulan data, anggaran komputasi, dan persyaratan inferensi
- Terapkan pelatihan, penyetelan, inferensi, alat, dan metode penerapan yang canggih untuk memaksimalkan performa model dalam batasan spesifik proyek Anda
- Diskusikan tantangan dan peluang yang diciptakan AI generatif bagi bisnis setelah mendengarkan cerita dari peneliti dan praktisi industri
Pengembang yang memiliki pemahaman dasar yang baik tentang cara kerja LLM, serta praktik terbaik di balik pelatihan dan penerapannya, akan mampu membuat keputusan yang baik untuk perusahaannya dan lebih cepat membangun prototipe yang berfungsi. Kursus ini akan mendukung pelajar dalam membangun intuisi praktis tentang cara terbaik memanfaatkan teknologi baru yang menarik ini.
Minggu 1
Kasus penggunaan AI generatif, siklus hidup proyek, dan pra-pelatihan model
Tujuan pembelajaran
- Diskusikan pra-pelatihan model dan manfaat pra-pelatihan lanjutan vs penyesuaian
- Definisikan istilah AI Generatif, model bahasa besar, prompt, dan jelaskan arsitektur transformator yang mendukung LLM
- Jelaskan langkah-langkah dalam siklus hidup model AI generatif berbasis LLM dan diskusikan faktor penghambat yang mendorong keputusan pada setiap langkah siklus hidup model
- Diskusikan tantangan komputasi selama pra-pelatihan model dan tentukan cara mengurangi jejak memori secara efisien
- Definisikan istilah hukum penskalaan dan jelaskan hukum yang telah ditemukan untuk LLM terkait dengan ukuran kumpulan data pelatihan, anggaran komputasi, persyaratan inferensi, dan faktor lainnya
Lab 1 - Kasus Penggunaan AI Generatif: Ringkas Dialog
Kuis minggu 1
Minggu 2
Menyempurnakan dan mengevaluasi model bahasa besar
Tujuan pembelajaran
- Jelaskan bagaimana penyesuaian instruksi menggunakan kumpulan data cepat dapat meningkatkan kinerja pada satu atau beberapa tugas
- Definisikan bencana lupa dan jelaskan teknik yang dapat digunakan untuk mengatasinya
- Definisikan istilah Penyempurnaan Hemat Parameter (PEFT)
- Jelaskan bagaimana PEFT mengurangi biaya komputasi dan mengatasi bencana lupa
- Jelaskan bagaimana penyesuaian instruksi menggunakan kumpulan data cepat dapat meningkatkan kinerja LLM pada satu atau beberapa
Lab 2 - Menyempurnakan model AI generatif untuk ringkasan dialog
Kuis minggu ke 2
Minggu ke-3
Pembelajaran penguatan dan aplikasi yang didukung LLM
Tujuan pembelajaran
- Jelaskan bagaimana RLHF menggunakan umpan balik manusia untuk meningkatkan kinerja dan penyelarasan model bahasa besar
- Jelaskan bagaimana data yang dikumpulkan dari pelabel manusia digunakan untuk melatih model penghargaan untuk RLHF
- Tentukan dorongan rantai pemikiran dan jelaskan bagaimana hal itu dapat digunakan untuk meningkatkan kemampuan penalaran dan perencanaan LLM
- Diskusikan tantangan yang dihadapi LLM dengan terputusnya pengetahuan, dan jelaskan bagaimana teknik pengambilan informasi dan augmentasi dapat mengatasi tantangan ini
Lab 3 - Sempurnakan FLAN-T5 dengan pembelajaran penguatan untuk menghasilkan ringkasan yang lebih positif
Kuis Minggu ke-3
