`gpustat`

Nur weniger als Nvidia-SMI?

Screenshot: gpustat -cp

HINWEIS: Dies funktioniert nur mit NVIDIA-Grafikgeräten, derzeit keine AMD-Unterstützung. Beiträge sind willkommen!

Eigenwerbung: Eine Weboberfläche von gpustat ist verfügbar (in Alpha)! Schauen Sie sich gpustat-web an.

Schnelle Installation

Von PyPI installieren:

 pip install gpustat

Wenn Sie nicht über Root-Rechte (sudo) verfügen, versuchen Sie bitte, gpustat im Benutzernamensraum zu installieren: pip install --user gpustat .

So installieren Sie die neueste Version (Master Branch) über pip:

 pip install git+https://github.com/wookayin/gpustat.git@master

Wichtig

NICHT: pip install pynvml , noch pynvml als Abhängigkeit in Ihr Python-Projekt einbeziehen. Das wird nicht funktionieren.

Stattdessen: pip install nvidia-ml-py . nvidia-ml-py ist NVIDIAs offizielle Python-Bindung für NVML.

gpustat 1.2+: Erfordert nvidia-ml-py >= 12.535.108 (#161)
gpustat 1.0+: Erfordert NVIDIA-Treiber 450.00 oder höher und nvidia-ml-py >= 11.450.129 .
Wenn Ihr NVIDIA-Treiber zu alt ist, können Sie ältere gpustat Versionen verwenden ( pip install gpustat<1.0 ). Weitere Einzelheiten finden Sie unter Nr. 107.

$ gpustat

Optionen (Weitere Informationen finden Sie gpustat --help ):

--color : Farbige Ausgabe erzwingen (auch wenn stdout kein tty ist)
--no-color : Farbige Ausgabe unterdrücken
-u , --show-user : Benutzernamen des Prozesseigentümers anzeigen
-c , --show-cmd : Zeigt den Prozessnamen an
-f , --show-full-cmd : Zeigt die vollständigen Befehls- und CPU-Statistiken des laufenden Prozesses an
-p , --show-pid : PID des Prozesses anzeigen
-F , --show-fan : GPU-Lüftergeschwindigkeit anzeigen
-e , --show-codec : Encoder- und/oder Decoderauslastung anzeigen
-P , --show-power : GPU-Stromverbrauch und/oder Limit anzeigen ( draw oder draw,limit )
-a , --show-all : Zeigt alle oben genannten GPU-Eigenschaften an
--id : Spezifische GPUs nur mit den angegebenen Indizes ansprechen und abfragen (z. B. --id 0,1,2 )
--no-processes : Prozessinformationen (Benutzer, Speicher) nicht anzeigen (#133)
--watch , -i , --interval : Im Watch-Modus ausführen (entspricht watch gpustat ), falls angegeben. Gibt das Intervall zwischen Aktualisierungen an.
--json : JSON-Ausgabe (#10)
--print-completion (bash|zsh|tcsh) : Druckt ein Shell-Vervollständigungsskript. Zur Verwendung siehe Nr. 131.

Versuchen Sie gpustat --debug , wenn etwas schief geht.
Um regelmäßig zuzuschauen, versuchen Sie es mit gpustat --watch oder gpustat -i (#41).
- Für ältere Versionen kann man watch --color -n1.0 gpustat --color verwenden.
Durch die Ausführung nvidia-smi daemon (Root-Rechte erforderlich) werden GPU-Abfragen viel schneller und weniger CPU benötigt (#54).
Die von gpustat (und nvidia-smi ) angezeigte GPU-ID (Index) ist die PCI-BUS-ID, während CUDA standardmäßig eine andere Reihenfolge verwendet (weist die schnellste GPU mit der niedrigsten ID zu). Um sicherzustellen, dass CUDA und gpustat denselben GPU-Index verwenden, konfigurieren Sie daher die Umgebungsvariable CUDA_DEVICE_ORDER auf PCI_BUS_ID (bevor Sie CUDA_VISIBLE_DEVICES für Ihr CUDA-Programm festlegen): export CUDA_DEVICE_ORDER=PCI_BUS_ID .

 [0] GeForce GTX Titan X | 77°C,  96 % | 11848 / 12287 MB | python/52046(11821M)

[0] : GPU-Index (beginnt bei 0) als PCI_BUS_ID
GeForce GTX Titan X : GPU-Name
77°C : GPU-Temperatur (in Celsius)
96 % : GPU-Auslastung
11848 / 12287 MB : GPU-Speichernutzung (genutzt/insgesamt)
python/... : Ausführen von Prozessen auf GPU, Besitzer/cmdline/PID (und deren GPU-Speichernutzung)