oreilly optimizing llms
1.0.0
Repositori ini berisi kode untuk Pelatihan Online O'Reilly Live untuk Hands on Natural Language Generation dan GPT
Pelatihan ini akan berfokus pada bagaimana model keluarga GPT digunakan untuk tugas-tugas NLP termasuk peringkasan teks abstrak dan pembuatan bahasa alami. Pelatihan akan dimulai dengan pengenalan konsep-konsep yang diperlukan termasuk perhatian diri yang terselubung, model bahasa, dan transformator, lalu mengembangkan konsep-konsep tersebut untuk memperkenalkan arsitektur GPT. Kami kemudian akan membahas cara GPT digunakan untuk berbagai tugas pemrosesan bahasa alami dengan contoh langsung penggunaan model GPT-2 yang telah dilatih sebelumnya serta menyempurnakan model ini pada corpora khusus.
Model GPT adalah salah satu arsitektur NLP paling relevan saat ini dan terkait erat dengan model pembelajaran mendalam NLP penting lainnya seperti BERT. Kedua model ini berasal dari arsitektur transformator yang baru ditemukan dan mewakili titik perubahan dalam cara mesin memproses bahasa dan konteks.
Rangkaian pelatihan online Pemrosesan Bahasa Alami dengan Arsitektur Transformer Generasi Berikutnya memberikan gambaran komprehensif tentang model pemrosesan bahasa alami (NLP) yang canggih termasuk GPT dan BERT yang berasal dari arsitektur transformator modern yang digerakkan oleh perhatian dan aplikasi yang digunakan untuk memecahkan model ini saat ini. Semua pelatihan dalam seri ini memadukan teori dan aplikasi melalui kombinasi penjelasan matematis visual, contoh Python yang dapat diterapkan secara langsung dalam demo notebook Jupyter langsung, dan studi kasus komprehensif yang menampilkan masalah modern yang dapat dipecahkan dengan model NLP.
Pengantar GPT2
Menelan korpus baru
Pembelajaran multi-tugas dengan GPT2
Buku Catatan Dolly Lite
Rekayasa Cepat 101
Lebih banyak model GPT pihak ketiga yang disempurnakan
Sinan Ozdemir adalah Pendiri dan CTO LoopGenius di mana dia menggunakan AI tercanggih untuk membantu orang membuat dan menjalankan bisnis mereka. Sinan adalah mantan dosen Ilmu Data di Universitas Johns Hopkins dan penulis berbagai buku teks tentang ilmu data dan pembelajaran mesin. Selain itu, ia adalah pendiri Kylie.ai yang baru diakuisisi, sebuah platform AI percakapan tingkat perusahaan dengan kemampuan RPA. Beliau meraih gelar master dalam Matematika Murni dari Universitas Johns Hopkins dan berbasis di San Francisco, CA.
