Homemade GPT
1.0.0
يحتوي هذا المستودع على تطبيق Python لجزء Decoder من بنية Tranformer المقدمة في الورقة الأساسية - كل ما تحتاجه هو الاهتمام. يوضح الشكل 1 بنية المحول الكاملة مع كتلة التشفير على اليسار وكتلة وحدة فك التشفير على اليمين.
تم ضبط النموذج بدقة على مجموعة بيانات تعليمات Alpaca باستخدام نمط موجه Alpaca.