leaderboard

judul	emoji	python_version	file_aplikasi	SDK	sdk_version	disematkan	tag
Papan Peringkat ML.ENERGI	⚡	3.9	app.py	gradio	3.39.0	BENAR	energi papan peringkat

Papan Peringkat ML.ENERGI

Berapa banyak energi yang dikonsumsi model GenAI seperti LLM dan model Difusi?

README ini berfokus pada penjelasan cara menjalankan benchmark sendiri. Papan peringkat sebenarnya ada di sini: https://ml.energy/leaderboard.

Organisasi Repositori

 leaderboard/
├── benchmark/      # Benchmark scripts & instructions
├── data/           # Benchmark results
├── deployment/     # Colosseum deployment files
├── spitfight/      # Python package for the Colosseum
├── app.py          # Leaderboard Gradio app definition
└── index.html      # Embeds the leaderboard HuggingFace Space

Colosseum

Kami menginstrumentasikan Hugging Face TGI sehingga dapat mengukur dan mengembalikan konsumsi energi GPU. Kemudian, server pengontrol kami menerima perintah pengguna dari aplikasi Gradio, memilih dua model secara acak, dan mengalirkan kembali respons model dengan konsumsi energi.

Menjalankan Tolok Ukur

Kami menjadikan seluruh benchmark sebagai sumber terbuka dengan instruksi di sini: ./benchmark

Kutipan

Silakan merujuk ke file BibTeX kami: citation.bib .