gpustat

gpustat

nvidia-smi보다 적나요 ?

참고: 이는 NVIDIA 그래픽 장치에서만 작동하며 현재 AMD는 지원하지 않습니다. 기여를 환영합니다!

자체 홍보: gpustat 의 웹 인터페이스를 사용할 수 있습니다(알파 버전)! gpustat-web을 확인하세요.

빠른 설치

PyPI에서 설치:

 pip install gpustat

루트(sudo) 권한이 없으면 사용자 네임스페이스에 gpustat 설치해 보십시오: pip install --user gpustat .

pip를 통해 최신 버전(마스터 브랜치)을 설치하려면:

 pip install git+https://github.com/wookayin/gpustat.git@master

NVIDIA 드라이버 및 pynvml 요구 사항

중요한

하지 마세요: pip install pynvml 하거나 Python 프로젝트에 pynvml 종속성으로 포함하지 마세요. 이것은 작동하지 않습니다.

대신: pip install nvidia-ml-py . nvidia-ml-py는 NVIDIA의 NVML용 공식 Python 바인딩입니다.

• gpustat 1.2+: nvidia-ml-py >= 12.535.108 필요(#161)
• gpustat 1.0+: NVIDIA 드라이버 450.00 이상 및 nvidia-ml-py >= 11.450.129 필요합니다.
• NVIDIA 드라이버가 너무 오래된 경우 이전 gpustat 버전( pip install gpustat<1.0 )을 사용할 수 있습니다. 자세한 내용은 #107을 참조하세요.

Python 요구 사항

• gpustat<1.0: Python 2.7 및 >=3.4와 호환 가능
• gpustat 1.0: Python >= 3.4
• gpustat 1.1: Python >= 3.6

용법

$ gpustat

옵션(자세한 내용은 gpustat --help 참조하세요):

• --color : 컬러 출력을 강제합니다(stdout이 tty가 아닌 경우에도).
• --no-color : 컬러 출력을 억제합니다.
• -u , --show-user : 프로세스 소유자의 사용자 이름을 표시합니다.
• -c , --show-cmd : 프로세스 이름을 표시합니다.
• -f , --show-full-cmd : 실행 중인 프로세스의 전체 명령 및 CPU 통계를 표시합니다.
• -p , --show-pid : 프로세스의 PID를 표시합니다.
• -F , --show-fan : GPU 팬 속도 표시
• -e , --show-codec : 인코더 및/또는 디코더 사용률 표시
• -P , --show-power : GPU 전력 사용량 및/또는 제한 표시( draw 또는 draw,limit )
• -a , --show-all : 위의 모든 GPU 속성을 표시합니다.
• --id : 지정된 인덱스를 사용하여 특정 GPU만 대상으로 지정하고 쿼리합니다(예: --id 0,1,2 ).
• --no-processes : 프로세스 정보(사용자, 메모리)를 표시하지 않습니다. (#133)
• --watch , -i , --interval : 주어진 경우 watch 모드( watch gpustat 와 동일)로 실행됩니다. 업데이트 사이의 간격을 나타냅니다.
• --json : JSON 출력(#10)
• --print-completion (bash|zsh|tcsh) : 쉘 완성 스크립트를 인쇄합니다. 사용법은 #131을 참조하세요.

팁

• 문제가 발생하면 gpustat --debug 시도해 보세요.
• 주기적으로 보려면 gpustat --watch 또는 gpustat -i (#41)를 시도하십시오.
  • 이전 버전의 경우 watch --color -n1.0 gpustat --color 사용할 수 있습니다.
• nvidia-smi daemon (루트 권한 필요)을 실행하면 GPU 쿼리가 훨씬 빨라지고 CPU 사용량이 줄어듭니다(#54).
• gpustat (및 nvidia-smi )에 표시된 GPU ID(인덱스)는 PCI BUS ID인 반면, CUDA는 기본적으로 다른 순서(가장 낮은 ID로 가장 빠른 GPU 할당)를 사용합니다. 따라서 CUDA와 gpustat 동일한 GPU 인덱스를 사용하도록 하려면 CUDA_DEVICE_ORDER 환경 변수를 PCI_BUS_ID 로 구성하십시오(CUDA 프로그램에 대해 CUDA_VISIBLE_DEVICES 설정하기 전): export CUDA_DEVICE_ORDER=PCI_BUS_ID .

기본 디스플레이

 [0] GeForce GTX Titan X | 77°C,  96 % | 11848 / 12287 MB | python/52046(11821M)

• [0] : GPU 인덱스(0부터 시작)(PCI_BUS_ID)
• GeForce GTX Titan X : GPU 이름
• 77°C : GPU 온도(섭씨)
• 96 % : GPU 활용도
• 11848 / 12287 MB : GPU 메모리 사용량(사용된 / 총계)
• python/... : GPU, 소유자/cmdline/PID(및 해당 GPU 메모리 사용량)에서 프로세스 실행

변경 내역

CHANGELOG.md를 참조하세요.

특허

MIT 라이센스