الذكاء الاصطناعي التوليدي مع LLMs
في الذكاء الاصطناعي التوليدي مع نماذج اللغات الكبيرة (LLMs)، ستتعلم أساسيات كيفية عمل الذكاء الاصطناعي التوليدي وكيفية نشره في تطبيقات العالم الحقيقي.
من خلال أخذ هذه الدورة، ستتعلم:
- فهم عميق للذكاء الاصطناعي التوليدي، ووصف الخطوات الرئيسية في دورة حياة الذكاء الاصطناعي التوليدي النموذجي القائم على LLM، بدءًا من جمع البيانات واختيار النموذج، وحتى تقييم الأداء ونشره
- وصف بالتفصيل بنية المحولات التي تعمل على تشغيل LLMs، وكيفية تدريبهم، وكيف يمكن الضبط الدقيق لـ LLMs من التكيف مع مجموعة متنوعة من حالات الاستخدام المحددة
- استخدم قوانين القياس التجريبية لتحسين الوظيفة الموضوعية للنموذج عبر حجم مجموعة البيانات وميزانية الحساب ومتطلبات الاستدلال
- قم بتطبيق أحدث التدريبات والضبط والاستدلال والأدوات وأساليب النشر لتحقيق أقصى قدر من أداء النماذج ضمن القيود المحددة لمشروعك
- ناقش التحديات والفرص التي يخلقها الذكاء الاصطناعي التوليدي للشركات بعد سماع قصص من الباحثين والممارسين في الصناعة
سيتمكن المطورون الذين لديهم فهم أساسي جيد لكيفية عمل LLMs، بالإضافة إلى أفضل الممارسات وراء تدريبهم ونشرهم، من اتخاذ قرارات جيدة لشركاتهم وبناء نماذج أولية عاملة بسرعة أكبر. ستدعم هذه الدورة المتعلمين في بناء الحدس العملي حول كيفية الاستفادة المثلى من هذه التكنولوجيا الجديدة والمثيرة.
الأسبوع 1
حالات استخدام الذكاء الاصطناعي التوليدي ودورة حياة المشروع والتدريب المسبق للنموذج
أهداف التعلم
- ناقش نموذج التدريب المسبق وقيمة التدريب المسبق المستمر مقابل الضبط الدقيق
- حدد مصطلحات الذكاء الاصطناعي التوليدي، ونماذج اللغة الكبيرة، والموجه، ووصف بنية المحولات التي تعمل على تشغيل LLM
- وصف الخطوات في دورة حياة نموذج الذكاء الاصطناعي النموذجي القائم على LLM ومناقشة العوامل المقيدة التي تدفع القرارات في كل خطوة من دورة حياة النموذج
- ناقش التحديات الحسابية أثناء التدريب المسبق للنموذج وحدد كيفية تقليل أثر الذاكرة بكفاءة
- حدد مصطلح قانون القياس ووصف القوانين التي تم اكتشافها لمجالس LLM المتعلقة بحجم مجموعة بيانات التدريب، وميزانية الحساب، ومتطلبات الاستدلال، وعوامل أخرى
المختبر 1 - حالة استخدام الذكاء الاصطناعي التوليدي: تلخيص الحوار
اختبار الأسبوع الأول
الأسبوع 2
ضبط وتقييم نماذج اللغات الكبيرة
أهداف التعلم
- صف كيف يمكن لضبط التعليمات باستخدام مجموعات البيانات السريعة أن يؤدي إلى تحسين الأداء في مهمة واحدة أو أكثر
- تعريف النسيان الكارثي وشرح التقنيات التي يمكن استخدامها للتغلب عليه
- تعريف مصطلح الضبط الدقيق ذو كفاءة المعلمة (PEFT)
- اشرح كيف يقلل PEFT من التكلفة الحسابية ويتغلب على النسيان الكارثي
- اشرح كيف يمكن أن يؤدي الضبط الدقيق للتعليمات باستخدام مجموعات البيانات السريعة إلى زيادة أداء LLM في واحدة أو أكثر
المختبر 2 - الضبط الدقيق لنموذج الذكاء الاصطناعي التوليدي لتلخيص الحوار
اختبار الأسبوع 2
الأسبوع 3
تعزيز التعلم والتطبيقات التي تعمل بالطاقة LLM
أهداف التعلم
- وصف كيفية استخدام RLHF للملاحظات البشرية لتحسين أداء ومواءمة نماذج اللغات الكبيرة
- اشرح كيفية استخدام البيانات التي تم جمعها من واضعي العلامات البشرية لتدريب نموذج المكافأة لـ RLHF
- تحديد تحفيز سلسلة الأفكار ووصف كيف يمكن استخدامها لتحسين قدرات التفكير والتخطيط في LLM
- ناقش التحديات التي يواجهها طلاب LLM مع انقطاع المعرفة، واشرح كيف يمكن لتقنيات استرجاع المعلومات وتعزيزها التغلب على هذه التحديات
المختبر 3 - ضبط FLAN-T5 باستخدام التعلم المعزز لإنشاء ملخصات أكثر إيجابية
اختبار الأسبوع 3
