leaderboard
2023-07-06:
| ชื่อ | อีโมจิ | หลาม_รุ่น | app_file | SDK | sdk_version | ตรึงไว้ | แท็ก | ||
|---|---|---|---|---|---|---|---|---|---|
กระดานผู้นำ ML.ENERGY | 3.9 | app.py | กราดิโอ | 3.39.0 | จริง |
|
โมเดล GenAI เช่น LLM และรุ่น Diffusion ใช้พลังงานเท่าใด
README นี้มุ่งเน้นไปที่การอธิบายวิธีการรันการวัดประสิทธิภาพด้วยตนเอง ตารางผู้นำที่แท้จริงอยู่ที่นี่: https://ml.energy/leaderboard
leaderboard/
├── benchmark/ # Benchmark scripts & instructions
├── data/ # Benchmark results
├── deployment/ # Colosseum deployment files
├── spitfight/ # Python package for the Colosseum
├── app.py # Leaderboard Gradio app definition
└── index.html # Embeds the leaderboard HuggingFace Space
เราติดตั้ง Hugging Face TGI เพื่อให้สามารถวัดและส่งคืนการใช้พลังงานของ GPU จากนั้น เซิร์ฟเวอร์ตัวควบคุมของเราจะรับการแจ้งเตือนจากผู้ใช้จากแอป Gradio เลือกสองรุ่นแบบสุ่ม และสตรีมการตอบสนองของโมเดลกลับมาพร้อมกับการใช้พลังงาน
เราเปิดแหล่งที่มาของการวัดประสิทธิภาพทั้งหมดพร้อมคำแนะนำที่นี่: ./benchmark
โปรดดูไฟล์ BibTeX ของเรา: citation.bib
