يوفر هذا المستودع أحدث أمثلة التعلم العميق التي يسهل تدريبها ونشرها، مما يحقق أفضل دقة وأداء قابل للتكرار باستخدام مجموعة برامج NVIDIA CUDA-X التي تعمل على وحدات معالجة الرسوميات NVIDIA Volta وTuring وAmpere.
يتم توفير هذه الأمثلة، إلى جانب مجموعة برامج التعلم العميق NVIDIA، في حاوية Docker يتم تحديثها شهريًا في سجل حاوية NGC (https://ngc.nvidia.com). تشمل هذه الحاويات:
نماذج | نطاق | أمبير | وحدة معالجة الرسومات المتعددة | متعدد العقد | TensorRT | اونكس | تريتون | محتوى قابل للتنزيل | ملحوظة: |
---|---|---|---|---|---|---|---|---|---|
شبكة الكفاءة-B0 | باي تورش | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
شبكة فعالة-B4 | باي تورش | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
كفاءة على مستوى الشبكة SE-B0 | باي تورش | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
كفاءة على مستوى الشبكة SE-B4 | باي تورش | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
شبكة الكفاءة v1-B0 | TensorFlow2 | نعم | نعم | نعم | مثال | - | المدعومة | نعم | - |
شبكة الكفاءة v1-B4 | TensorFlow2 | نعم | نعم | نعم | مثال | - | المدعومة | نعم | - |
شبكة الكفاءة v2-S | TensorFlow2 | نعم | نعم | نعم | مثال | - | المدعومة | نعم | - |
GPUNet | باي تورش | نعم | نعم | - | مثال | نعم | مثال | نعم | - |
قناع آر سي إن إن | باي تورش | نعم | نعم | - | مثال | - | المدعومة | - | نعم |
قناع آر سي إن إن | TensorFlow2 | نعم | نعم | - | مثال | - | المدعومة | نعم | - |
nnUNet | باي تورش | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
ريسنيت-50 | مكس نت | نعم | نعم | - | المدعومة | - | المدعومة | - | - |
ريسنيت-50 | مجداف | نعم | نعم | - | مثال | - | المدعومة | - | - |
ريسنيت-50 | باي تورش | نعم | نعم | - | مثال | - | مثال | نعم | - |
ريسنيت-50 | TensorFlow | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
ريسنيكست-101 | باي تورش | نعم | نعم | - | مثال | - | مثال | نعم | - |
ريسنيكست-101 | TensorFlow | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
SE-ResNeXt-101 | باي تورش | نعم | نعم | - | مثال | - | مثال | نعم | - |
SE-ResNeXt-101 | TensorFlow | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
SSD | باي تورش | نعم | نعم | - | المدعومة | - | المدعومة | - | نعم |
SSD | TensorFlow | نعم | نعم | - | المدعومة | - | المدعومة | نعم | نعم |
يو نت ميد | TensorFlow2 | نعم | نعم | - | مثال | - | المدعومة | نعم | - |
نماذج | نطاق | أمبير | وحدة معالجة الرسومات المتعددة | متعدد العقد | TensorRT | اونكس | تريتون | محتوى قابل للتنزيل | ملحوظة: |
---|---|---|---|---|---|---|---|---|---|
بيرت | باي تورش | نعم | نعم | نعم | مثال | - | مثال | نعم | - |
جي إن إم تي | باي تورش | نعم | نعم | - | المدعومة | - | المدعومة | - | - |
إلكترا | TensorFlow2 | نعم | نعم | نعم | المدعومة | - | المدعومة | نعم | - |
بيرت | TensorFlow | نعم | نعم | نعم | مثال | - | مثال | نعم | نعم |
بيرت | TensorFlow2 | نعم | نعم | نعم | المدعومة | - | المدعومة | نعم | - |
جي إن إم تي | TensorFlow | نعم | نعم | - | المدعومة | - | المدعومة | - | - |
محول أسرع | Tensorflow | - | - | - | مثال | - | المدعومة | - | - |
نماذج | نطاق | أمبير | وحدة معالجة الرسومات المتعددة | متعدد العقد | اونكس | تريتون | محتوى قابل للتنزيل | ملحوظة: |
---|---|---|---|---|---|---|---|---|
DLRM | باي تورش | نعم | نعم | - | نعم | مثال | نعم | نعم |
DLRM | TensorFlow2 | نعم | نعم | نعم | - | المدعومة | نعم | - |
نكف | باي تورش | نعم | نعم | - | - | المدعومة | - | - |
واسعة وعميقة | TensorFlow | نعم | نعم | - | - | المدعومة | نعم | - |
واسعة وعميقة | TensorFlow2 | نعم | نعم | - | - | المدعومة | نعم | - |
نكف | TensorFlow | نعم | نعم | - | - | المدعومة | نعم | - |
VAE-CF | TensorFlow | نعم | نعم | - | - | المدعومة | - | - |
سيم | TensorFlow2 | نعم | نعم | - | - | المدعومة | نعم | - |
نماذج | نطاق | أمبير | وحدة معالجة الرسومات المتعددة | متعدد العقد | TensorRT | اونكس | تريتون | محتوى قابل للتنزيل | ملحوظة: |
---|---|---|---|---|---|---|---|---|---|
يشب | باي تورش | نعم | نعم | - | مثال | نعم | مثال | نعم | نعم |
كوارتز نت | باي تورش | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
نماذج | نطاق | أمبير | وحدة معالجة الرسومات المتعددة | متعدد العقد | TensorRT | اونكس | تريتون | محتوى قابل للتنزيل | ملحوظة: |
---|---|---|---|---|---|---|---|---|---|
FastPitch | باي تورش | نعم | نعم | - | مثال | - | مثال | نعم | نعم |
FastSpeech | باي تورش | نعم | نعم | - | مثال | - | المدعومة | - | - |
تاكوترون 2 و ويف جلو | باي تورش | نعم | نعم | - | مثال | نعم | مثال | نعم | - |
هاي فاي جان | باي تورش | نعم | نعم | - | المدعومة | - | المدعومة | نعم | - |
نماذج | نطاق | أمبير | وحدة معالجة الرسومات المتعددة | متعدد العقد | اونكس | تريتون | محتوى قابل للتنزيل | ملحوظة: |
---|---|---|---|---|---|---|---|---|
SE (3)-المحولات | باي تورش | نعم | نعم | - | - | المدعومة | - | - |
MoFlow | باي تورش | نعم | نعم | - | - | المدعومة | - | - |
نماذج | نطاق | أمبير | وحدة معالجة الرسومات المتعددة | متعدد العقد | TensorRT | اونكس | تريتون | محتوى قابل للتنزيل | ملحوظة: |
---|---|---|---|---|---|---|---|---|---|
محول الانصهار الزمني | باي تورش | نعم | نعم | - | مثال | نعم | مثال | نعم | - |
في كل ملف من ملفات README الخاصة بالشبكة، نشير إلى مستوى الدعم الذي سيتم تقديمه. يتراوح النطاق من التحديثات والتحسينات المستمرة إلى الإصدار في الوقت المناسب لقيادة الفكر.
تدريب متعدد العقد مدعوم على مجموعة pyxis/enroot Slurm.
مترجم التعلم العميق (DLC) TensorFlow XLA وPyTorch JIT و/أو TorchScript
الجبر الخطي المتسارع (XLA) XLA هو مترجم خاص بالمجال للجبر الخطي يمكنه تسريع نماذج TensorFlow مع عدم وجود تغييرات محتملة في كود المصدر. وكانت النتائج تحسينات في السرعة واستخدام الذاكرة.
PyTorch JIT و/أو TorchScript TorchScript هي طريقة لإنشاء نماذج قابلة للتسلسل والتحسين من كود PyTorch. TorchScript، تمثيل وسيط لنموذج PyTorch (فئة فرعية من nn.Module) والذي يمكن بعد ذلك تشغيله في بيئة عالية الأداء مثل C++.
الدقة المختلطة التلقائية (AMP) تتيح الدقة المختلطة التلقائية (AMP) التدريب الدقيق المختلط على بنيات وحدة معالجة الرسومات Volta وTuring وNVIDIA Ampere تلقائيًا.
TensorFloat-32 (TF32) TensorFloat-32 (TF32) هو وضع الرياضيات الجديد في وحدات معالجة الرسوميات NVIDIA A100 للتعامل مع رياضيات المصفوفة والتي تسمى أيضًا عمليات الموتر. يمكن لـ TF32 الذي يعمل على Tensor Cores في وحدات معالجة الرسومات A100 أن يوفر ما يصل إلى 10x سرعات مقارنة بحسابات الفاصلة العائمة أحادية الدقة (FP32) على وحدات معالجة الرسومات Volta. يتم دعم TF32 في بنية NVIDIA Ampere GPU ويتم تمكينه افتراضيًا.
Jupyter Notebooks (NB) Jupyter Notebook هو تطبيق ويب مفتوح المصدر يسمح لك بإنشاء ومشاركة المستندات التي تحتوي على تعليمات برمجية مباشرة ومعادلات ومرئيات ونص سردي.
نحن ننشر هذه الأمثلة على GitHub لتقديم دعم أفضل للمجتمع، وتسهيل التعليقات، بالإضافة إلى جمع المساهمات وتنفيذها باستخدام مشكلات GitHub وطلبات السحب. نحن نرحب بجميع المساهمات!
في كل ملف من ملفات README الخاصة بالشبكة، نشير إلى أي مشكلات معروفة ونشجع المجتمع على تقديم الملاحظات.