leaderboard
2023-07-06:
| عنوان | com.emoji | python_version | app_file | SDK | sdk_version | مثبت | العلامات | ||
|---|---|---|---|---|---|---|---|---|---|
ML.ENERGY المتصدرين | ⚡ | 3.9 | app.py | تدرج | 3.39.0 | حقيقي |
|
ما مقدار الطاقة التي تستهلكها نماذج GenAI مثل LLMs ونماذج الانتشار؟
يركز هذا الملف التمهيدي (README) على شرح كيفية تشغيل المعيار بنفسك. لوحة المتصدرين الفعلية موجودة هنا: https://ml.energy/leaderboard.
leaderboard/
├── benchmark/ # Benchmark scripts & instructions
├── data/ # Benchmark results
├── deployment/ # Colosseum deployment files
├── spitfight/ # Python package for the Colosseum
├── app.py # Leaderboard Gradio app definition
└── index.html # Embeds the leaderboard HuggingFace Space
لقد قمنا بتجهيز Hugging Face TGI بحيث يقوم بقياس وإرجاع استهلاك طاقة وحدة معالجة الرسومات. بعد ذلك، يتلقى خادم وحدة التحكم لدينا مطالبات المستخدم من تطبيق Gradio، ويختار نموذجين بشكل عشوائي، ويقوم ببث استجابات النموذج مرة أخرى مع استهلاك الطاقة.
لقد قمنا بفتح المعيار بالكامل مع التعليمات الموجودة هنا: ./benchmark
يرجى الرجوع إلى ملف BibTeX الخاص بنا: citation.bib .
