gpustat

gpustat

Kurang dari nvidia-smi?

CATATAN: Ini hanya berfungsi dengan Perangkat Grafis NVIDIA, saat ini tidak ada dukungan AMD. Kontribusi dipersilakan!

Promosi Mandiri: Antarmuka web gpustat tersedia (dalam alfa)! Lihat gpustat-web.

Instalasi Cepat

Instal dari PyPI:

 pip install gpustat

Jika Anda tidak memiliki hak akses root (sudo), silakan coba instal gpustat pada namespace pengguna: pip install --user gpustat .

Untuk menginstal versi terbaru (cabang master) melalui pip:

 pip install git+https://github.com/wookayin/gpustat.git@master

Persyaratan Driver NVIDIA dan pynvml

Penting

JANGAN: pip install pynvml , atau sertakan pynvml sebagai ketergantungan dalam proyek python Anda. Ini tidak akan berhasil.

Sebagai gantinya: pip install nvidia-ml-py . nvidia-ml-py adalah pengikat python resmi NVIDIA untuk NVML.

• gpustat 1.2+: Membutuhkan nvidia-ml-py >= 12.535.108 (#161)
• gpustat 1.0+: Membutuhkan Driver NVIDIA 450.00 atau lebih tinggi dan nvidia-ml-py >= 11.450.129 .
• Jika driver NVIDIA Anda terlalu lama, Anda dapat menggunakan versi gpustat yang lebih lama ( pip install gpustat<1.0 ). Lihat #107 untuk lebih jelasnya.

Persyaratan Python

• gpustat<1.0: Kompatibel dengan python 2.7 dan >=3.4
• gpustat 1.0: Python >= 3.4
• gpustat 1.1: Python >= 3.6

Penggunaan

$ gpustat

Opsi (Silakan lihat gpustat --help untuk lebih jelasnya):

• --color : Memaksa keluaran berwarna (meskipun stdout bukan tty)
• --no-color : Menekan keluaran berwarna
• -u , --show-user : Menampilkan nama pengguna pemilik proses
• -c , --show-cmd : Menampilkan nama proses
• -f , --show-full-cmd : Menampilkan perintah lengkap dan statistik cpu dari proses yang berjalan
• -p , --show-pid : Menampilkan PID proses
• -F , --show-fan : Menampilkan kecepatan kipas GPU
• -e , --show-codec : Menampilkan pemanfaatan encoder dan/atau decoder
• -P , --show-power : Menampilkan penggunaan dan/atau batas daya GPU ( draw atau draw,limit )
• -a , --show-all : Menampilkan semua properti GPU di atas
• --id : Menargetkan dan menanyakan GPU tertentu hanya dengan indeks yang ditentukan (misalnya --id 0,1,2 )
• --no-processes : Jangan tampilkan informasi proses (pengguna, memori) (#133)
• --watch , -i , --interval : Jalankan dalam mode tontonan (setara dengan watch gpustat ) jika diberikan. Menunjukkan interval antar pembaruan.
• --json : Keluaran JSON (#10)
• --print-completion (bash|zsh|tcsh) : Cetak skrip penyelesaian shell. Lihat #131 untuk penggunaan.

Kiat

• Coba gpustat --debug jika terjadi kesalahan.
• Untuk menonton secara berkala, coba gpustat --watch atau gpustat -i (#41).
  • Untuk versi yang lebih lama, seseorang dapat menggunakan watch --color -n1.0 gpustat --color .
• Menjalankan nvidia-smi daemon (diperlukan hak istimewa root) akan membuat kueri GPU lebih cepat dan menggunakan lebih sedikit CPU (#54).
• ID GPU (indeks) yang ditunjukkan oleh gpustat (dan nvidia-smi ) adalah PCI BUS ID, sedangkan CUDA menggunakan urutan berbeda (menetapkan GPU tercepat dengan ID terendah) secara default. Oleh karena itu, untuk memastikan CUDA dan gpustat menggunakan indeks GPU yang sama , konfigurasikan variabel lingkungan CUDA_DEVICE_ORDER ke PCI_BUS_ID (sebelum mengatur CUDA_VISIBLE_DEVICES untuk program CUDA Anda): export CUDA_DEVICE_ORDER=PCI_BUS_ID .

Tampilan bawaan

 [0] GeForce GTX Titan X | 77°C,  96 % | 11848 / 12287 MB | python/52046(11821M)

• [0] : Indeks GPU (mulai dari 0) sebagai PCI_BUS_ID
• GeForce GTX Titan X : nama GPU
• 77°C : Suhu GPU (dalam Celsius)
• 96 % : Pemanfaatan GPU
• 11848 / 12287 MB : Penggunaan Memori GPU (Terpakai / Total)
• python/... : Menjalankan proses pada GPU, pemilik/cmdline/PID (dan penggunaan memori GPU-nya)

log perubahan

Lihat CHANGELOG.md

Lisensi

Lisensi MIT