`gpustat`

Um pouco menos que nvidia-smi?

Captura de tela: gpustat -cp

NOTA: Isso funciona apenas com dispositivos gráficos NVIDIA, sem suporte AMD no momento. Contribuições são bem-vindas!

Autopromoção: Uma interface web do gpustat está disponível (em alfa)! Confira gpustat-web.

Instalação rápida

Instale a partir do PyPI:

 pip install gpustat

Se você não tiver privilégios de root (sudo), tente instalar gpustat no namespace do usuário: pip install --user gpustat .

Para instalar a versão mais recente (ramo master) via pip:

 pip install git+https://github.com/wookayin/gpustat.git@master

Importante

NÃO: pip install pynvml nem inclua pynvml como uma dependência em seu projeto python. Isso não funcionará.

Em vez disso: pip install nvidia-ml-py . nvidia-ml-py é a ligação python oficial da NVIDIA para NVML.

gpustat 1.2+: Requer nvidia-ml-py >= 12.535.108 (#161)
gpustat 1.0+: requer driver NVIDIA 450.00 ou superior e nvidia-ml-py >= 11.450.129 .
Se o seu driver NVIDIA for muito antigo, você pode usar versões mais antigas gpustat ( pip install gpustat<1.0 ). Consulte #107 para obter mais detalhes.

$ gpustat

Opções (consulte gpustat --help para obter mais detalhes):

--color : Força a saída colorida (mesmo quando stdout não é um tty)
--no-color : Suprime a saída colorida
-u , --show-user : exibe o nome de usuário do proprietário do processo
-c , --show-cmd : exibe o nome do processo
-f , --show-full-cmd : exibe o comando completo e as estatísticas da CPU do processo em execução
-p , --show-pid : exibe o PID do processo
-F , --show-fan : exibe a velocidade do ventilador da GPU
-e , --show-codec : exibe a utilização do codificador e/ou decodificador
-P , --show-power : Exibe o uso e/ou limite de energia da GPU ( draw ou draw,limit )
-a , --show-all : exibe todas as propriedades da GPU acima
--id : direciona e consulta GPUs específicas apenas com os índices especificados (por exemplo, --id 0,1,2 )
--no-processes : Não exibe informações do processo (usuário, memória) (#133)
--watch , -i , --interval : Executa no modo watch (equivalente a watch gpustat ) se fornecido. Denota intervalo entre atualizações.
--json : Saída JSON (#10)
--print-completion (bash|zsh|tcsh) : Imprime um script de conclusão do shell. Consulte #131 para uso.

Tente gpustat --debug se algo der errado.
Para observar periodicamente, tente gpustat --watch ou gpustat -i (#41).
- Para versões mais antigas, pode-se usar watch --color -n1.0 gpustat --color .
Executar nvidia-smi daemon (privilégio de root necessário) tornará a consulta de GPUs muito mais rápida e usará menos CPU (#54).
O ID da GPU (índice) mostrado por gpustat (e nvidia-smi ) é o PCI BUS ID, enquanto CUDA usa uma ordem diferente (atribui a GPU mais rápida com o ID mais baixo) por padrão. Portanto, para garantir que CUDA e gpustat usem o mesmo índice de GPU , configure a variável de ambiente CUDA_DEVICE_ORDER como PCI_BUS_ID (antes de definir CUDA_VISIBLE_DEVICES para seu programa CUDA): export CUDA_DEVICE_ORDER=PCI_BUS_ID .

 [0] GeForce GTX Titan X | 77°C,  96 % | 11848 / 12287 MB | python/52046(11821M)

[0] : índice GPU (começa em 0) como PCI_BUS_ID
GeForce GTX Titan X : nome da GPU
77°C : Temperatura da GPU (em Celsius)
96 % : utilização de GPU
11848 / 12287 MB : uso de memória GPU (usado/total)
python/... : Executando processos na GPU, proprietário/cmdline/PID (e seu uso de memória da GPU)