تنزيل NeMo Framework Launcher - تنزيل كود مصدر NeMo Framework Launcher

نيمو الإطار قاذفة

شفرة المصدر الأخرى

24.07

تنزيل

نيمو الإطار قاذفة

مهم

NeMo Framework Launcher متوافق مع الإصدار 1.0 من NeMo فقط.

يعد NeMo Framework Launcher أداة سحابية أصلية لإطلاق وظائف تدريب NeMo Framework الشاملة.

يرجى الرجوع إلى دليل NeMo Launcher لمزيد من المعلومات.

يركز NeMo Framework على التدريب على النماذج الأساسية لنماذج الذكاء الاصطناعي التوليدية. يتطلب التدريب المسبق لنموذج اللغة الكبيرة (LLM) عادةً الكثير من الحوسبة وتوازي النماذج لتوسيع نطاق التدريب بكفاءة. يتضمن NeMo Framework أحدث تقنيات التدريب واسعة النطاق بما في ذلك:

التوازي النموذجي
- الموتر
- خط أنابيب
- تسلسل
محسن الموزعة
التدريب الدقيق المختلط
- FP8
- BF16
نقاط التفتيش الموزعة
نماذج المجتمع
- لاما-2

يمتد تدريب نموذج NeMo Framework إلى آلاف وحدات معالجة الرسومات ويمكن استخدامه لتدريب LLMs على تريليونات من الرموز المميزة.

تم تصميم Launcher ليكون أداة بسيطة وسهلة الاستخدام لإطلاق مهام تدريب NeMo FW على مقدمي خدمات الاتصالات أو المجموعات المحلية. يتم استخدام المشغل عادةً من عقدة رئيسية ولا يتطلب سوى الحد الأدنى من تثبيت لغة بايثون.

سيقوم Launcher بإنشاء وتشغيل البرامج النصية للإرسال لبرنامج جدولة المجموعة وسيقوم أيضًا بتنظيم نتائج الوظائف وتخزينها. يتم تضمين ملفات التكوين التي تم اختبارها مع المشغل ولكن يمكن للمستخدم تعديل أي شيء في ملف التكوين بسهولة.

تم اختبار NeMo FW Launcher باستخدام حاوية NeMo FW التي يمكن تطبيقها هنا. الوصول تلقائي. يمكن للمستخدمين أيضًا تكوين المشغل بسهولة لاستخدام أي صورة حاوية يريدون توفيرها.

يدعم قاذفة NeMo FW:

إعداد الكتلة وتكوينها
تنزيل البيانات وتنظيمها ومعالجتها
نموذج التكوين الموازي
التدريب النموذجي
ضبط النموذج (SFT وPEFT)
تقييم النموذج
تصدير النموذج ونشره

بعض النماذج التي ندعمها تشمل:

جي بي تي
- التدريب المسبق، الضبط الدقيق، SFT، PEFT
بيرت
T5/MT5
- PEFT، وزارة التربية والتعليم (غير خبير)

راجع مصفوفة الميزات لمزيد من التفاصيل.

تثبيت

يجب تثبيت NeMo Framework Launcher على عقدة رئيسية أو جهاز محلي في بيئة بايثون افتراضية.

git clone https://github.com/NVIDIA/NeMo-Framework-Launcher.git
cd NeMo-Framework-Launcher
pip install -r requirements.txt

الاستخدام

أفضل طريقة لبدء استخدام NeMo Framework Launcher هي الاطلاع على كتب NeMo Framework Playbooks

بعد تكوين كل شيء في ملفات .yaml ، يمكن تشغيل Launcher باستخدام:

python main.py

نظرًا لأن Launcher يستخدم Hydra، فيمكن تجاوز أي تكوين مباشرة في ملف .yaml أو عبر سطر الأوامر. راجع قواعد التجاوز الخاصة بـ Hydra لمزيد من المعلومات.

المساهمة

المساهمات هي موضع ترحيب!

للمساهمة في NeMo Framework Launcher، ما عليك سوى إنشاء طلب سحب يتضمن التغييرات على GitHub. بعد مراجعة طلب السحب بواسطة مطور NeMo FW والموافقة عليه واجتياز اختبارات الوحدة وCI، سيتم دمجه.