`gpustat`

¿Un poco menos que nvidia-smi?

Captura de pantalla: gpustat -cp

NOTA: Esto funciona únicamente con dispositivos gráficos NVIDIA; no hay soporte para AMD por ahora. ¡Las contribuciones son bienvenidas!

Autopromoción: ¡una interfaz web de gpustat está disponible (en alfa)! Consulte gpustat-web.

Instalación rápida

Instalar desde PyPI:

 pip install gpustat

Si no tiene privilegios de root (sudo), intente instalar gpustat en el espacio de nombres de usuario: pip install --user gpustat .

Para instalar la última versión (rama maestra) mediante pip:

 pip install git+https://github.com/wookayin/gpustat.git@master

Importante

NO HAGA: pip install pynvml , ni incluya pynvml como una dependencia en su proyecto de Python. Esto no funcionará.

En su lugar: pip install nvidia-ml-py . nvidia-ml-py es el enlace Python oficial de NVIDIA para NVML.

gpustat 1.2+: Requiere nvidia-ml-py >= 12.535.108 (#161)
gpustat 1.0+: Requiere el controlador NVIDIA 450.00 o superior y nvidia-ml-py >= 11.450.129 .
Si su controlador NVIDIA es demasiado antiguo, puede utilizar versiones anteriores gpustat ( pip install gpustat<1.0 ). Consulte el n.° 107 para obtener más detalles.

$ gpustat

Opciones (consulte gpustat --help para obtener más detalles):

--color : fuerza la salida en color (incluso cuando la salida estándar no es un tty)
--no-color : Suprime la salida en color
-u , --show-user : muestra el nombre de usuario del propietario del proceso
-c , --show-cmd : muestra el nombre del proceso
-f , --show-full-cmd : muestra el comando completo y las estadísticas de la CPU del proceso en ejecución
-p , --show-pid : muestra el PID del proceso
-F , --show-fan : muestra la velocidad del ventilador de la GPU
-e , --show-codec : muestra la utilización del codificador y/o decodificador
-P , --show-power : muestra el uso y/o límite de energía de la GPU ( draw o draw,limit )
-a , --show-all : muestra todas las propiedades de la gpu anteriores
--id : apunta y consulta GPU específicas solo con los índices especificados (por ejemplo, --id 0,1,2 )
--no-processes : No muestra información del proceso (usuario, memoria) (#133)
--watch , -i , --interval : Ejecutar en modo de vigilancia (equivalente a watch gpustat ) si se proporciona. Denota el intervalo entre actualizaciones.
--json : Salida JSON (#10)
--print-completion (bash|zsh|tcsh) : imprime un script de finalización del shell. Consulte el n.° 131 para conocer su uso.

Pruebe gpustat --debug si algo sale mal.
Para mirar periódicamente, pruebe gpustat --watch o gpustat -i (#41).
- Para versiones anteriores, se puede usar watch --color -n1.0 gpustat --color .
La ejecución nvidia-smi daemon (se requiere privilegio de root) hará que las consultas a las GPU sean mucho más rápidas y utilicen menos CPU (#54).
El ID de GPU (índice) que muestra gpustat (y nvidia-smi ) es el ID de BUS PCI, mientras que CUDA usa un orden diferente (asigna la GPU más rápida con el ID más bajo) de forma predeterminada. Por lo tanto, para garantizar que CUDA y gpustat utilicen el mismo índice de GPU , configure la variable de entorno CUDA_DEVICE_ORDER en PCI_BUS_ID (antes de configurar CUDA_VISIBLE_DEVICES para su programa CUDA): export CUDA_DEVICE_ORDER=PCI_BUS_ID .

 [0] GeForce GTX Titan X | 77°C,  96 % | 11848 / 12287 MB | python/52046(11821M)

[0] : índice de GPU (comienza desde 0) como PCI_BUS_ID
GeForce GTX Titan X : nombre de la GPU
77°C : Temperatura de la GPU (en Celsius)
96 % : utilización de GPU
11848 / 12287 MB : uso de memoria de GPU (usado/total)
python/... : Ejecución de procesos en GPU, propietario/cmdline/PID (y su uso de memoria de GPU)