GPT-J هو بديل مفتوح المصدر من EleutherAI إلى GPT-3 الخاص بـ OpenAI. متاح لأي شخص للتنزيل، ويمكن ضبط GPT-J بنجاح ليقدم أداءً جيدًا تمامًا مثل النماذج الكبيرة في مجموعة من مهام البرمجة اللغوية العصبية بما في ذلك الإجابة على الأسئلة، وتحليل المشاعر، والتعرف على الكيانات المسماة.
حاول تشغيل GPT-J بنفسك على Paperspace باستخدام وحدة IPU (وحدة معالجة الذكاء) من Graphcore، وهي نوع جديد تمامًا من المعالجات المتوازية على نطاق واسع لتسريع ذكاء الآلة. يمكنك الوصول إلى حوسبة IPU المتقدمة والفعالة من حيث التكلفة عند الطلب في السحابة على Paperspace لإنشاء نماذج الذكاء الاصطناعي وضبطها ونشرها مثل GPT-J.
دفتر الملاحظات | نطاق | يكتب | حاول مجانا |
---|---|---|---|
المضمون النصي على الاتحاد البرلماني الدولي باستخدام GPT-J - الضبط الدقيق | تعانق الوجه | الكون المثالى | |
توليد النص باستخدام GPT-J 6B | تعانق الوجه | الاستدلال | |
إنشاء نص أسرع باستخدام GPT-J باستخدام تكميم الوزن 4 بت على وحدات IPU | تعانق الوجه | الاستدلال |
في التضمين النصي على IPU باستخدام GPT-J - دفتر الضبط الدقيق ، نوضح كيفية ضبط نموذج GPT-J المدرب مسبقًا والذي يعمل على نظام 16-IPU على Paperspace. سنشرح كيف يمكنك ضبط GPT-J بشكل دقيق لتضمين النص في مجموعة بيانات GLUE MNLI للوصول إلى أداء SOTA، مع كونها أكثر فعالية من حيث التكلفة من أقرانها الأكبر حجمًا.
في إنشاء النص باستخدام دفتر GPT-J 6B ، نوضح مدى سهولة تشغيل GPT-J على Graphcore IPU باستخدام هذا التنفيذ للنموذج و؟ نقاط التفتيش المحورية للأوزان النموذجية.
في إنشاء النص بشكل أسرع باستخدام GPT-J باستخدام تكميم الوزن 4 بت على الكمبيوتر المحمول الخاص بأجهزة IPU ، نعرض كيفية استخدام التكميم الجماعي لضغط معلمات النموذج إلى 4 بتات بدون ضبط دقيق، باستخدام ذاكرة أقل 4x وتسريع الاستدلال على GPT- J بمقدار 1.5x تقريبًا.
لمواصلة استخدام GPT-J على وحدات IPU، أو التحدث إلى أحد الخبراء، فلا تتردد في الاتصال بنا.
انضم إلى مجتمعنا المتنامي وتفاعل مع خبراء الذكاء الاصطناعي ومطوري الاتحاد البرلماني الدولي والباحثين. استمع إلى آخر أخبار IPU واحصل على أحدث الموديلات لدينا.
يتم توفير محتويات هذا المستودع وفقًا لشروط ترخيص MIT. راجع ملف الترخيص المرفق للحصول على التفاصيل.