gpustat

gpustat

nvidia-smi よりも小さいだけですか?

注: これは NVIDIA グラフィック デバイスでのみ動作し、現時点では AMD はサポートされていません。貢献は大歓迎です！

自己宣伝: gpustatの Web インターフェイスが利用可能です (アルファ版)。 gpustat-web を確認してください。

クイックインストール

PyPI からインストールします。

 pip install gpustat

root (sudo) 権限がない場合は、ユーザー名前空間にgpustatインストールしてみてください: pip install --user gpustat 。

pip 経由で最新バージョン (master ブランチ) をインストールするには:

 pip install git+https://github.com/wookayin/gpustat.git@master

NVIDIA ドライバーとpynvml要件

重要

pip install pynvml 、python プロジェクトに依存関係としてpynvmlを含めたりしないでください。これではうまくいきません。

代わりに、 pip install nvidia-ml-py 。 nvidia-ml-py は、NVIDIA の NVML 用の公式 Python バインディングです。

• gpustat 1.2+: nvidia-ml-py >= 12.535.108 (#161) が必要
• gpustat 1.0+: NVIDIA ドライバー450.00以降およびnvidia-ml-py >= 11.450.129が必要です。
• NVIDIA ドライバーが古すぎる場合は、古いgpustatバージョン ( pip install gpustat<1.0 ) を使用できます。詳細については #107 を参照してください。

Python の要件

• gpustat<1.0: Python 2.7 および 3.4 以上と互換性があります。
• gpustat 1.0: Python >= 3.4
• gpustat 1.1: Python >= 3.6

使用法

$ gpustat

オプション (詳細については、 gpustat --help参照してください):

• --color : 色付き出力を強制します (stdout が tty でない場合でも)
• --no-color : カラー出力を抑制します。
• -u 、 --show-user : プロセス所有者のユーザー名を表示します
• -c 、 --show-cmd : プロセス名を表示します
• -f 、 --show-full-cmd : 実行中のプロセスの完全なコマンドと CPU 統計を表示します。
• -p 、 --show-pid : プロセスの PID を表示します。
• -F 、 --show-fan : GPU ファン速度を表示します。
• -e 、 --show-codec : エンコーダーおよび/またはデコーダーの使用率を表示します。
• -P 、 --show-power : GPU の電力使用量および/または制限を表示します ( drawまたはdraw,limit )
• -a 、 --show-all : 上記のすべての GPU プロパティを表示します
• --id : 指定されたインデックスを持つ特定の GPU のみをターゲットにしてクエリします (例: --id 0,1,2 )
• --no-processes : プロセス情報（ユーザー、メモリ）を表示しません（#133）
• --watch 、 -i 、 --interval : 指定されている場合は、監視モード ( watch gpustatと同等) で実行します。更新間の間隔を示します。
• --json : JSON 出力 (#10)
• --print-completion (bash|zsh|tcsh) : シェル補完スクリプトを出力します。使用法については #131 を参照してください。

ヒント

• 何か問題が発生した場合は、 gpustat --debug試してください。
• 定期的に監視するには、 gpustat --watchまたはgpustat -i (#41) を試してください。
  • 古いバージョンの場合は、 watch --color -n1.0 gpustat --color使用できます。
• nvidia-smi daemon実行すると (root 権限が必要)、GPU へのクエリが大幅に高速になり、CPU の使用量が減ります (#54)。
• gpustat (およびnvidia-smi ) によって表示される GPU ID (インデックス) は PCI バス ID ですが、CUDA はデフォルトで異なる順序 (最も低い ID で最速の GPU を割り当てる) を使用します。したがって、CUDA とgpustat export CUDA_DEVICE_ORDER=PCI_BUS_ID GPU インデックスを使用するようにするには、(CUDA プログラムにCUDA_VISIBLE_DEVICES設定する前に) CUDA_DEVICE_ORDER環境変数をPCI_BUS_IDに設定します。

デフォルトの表示

 [0] GeForce GTX Titan X | 77°C,  96 % | 11848 / 12287 MB | python/52046(11821M)

• [0] : PCI_BUS_ID としての GPU インデックス (0 から開始)
• GeForce GTX Titan X : GPU 名
• 77°C : GPU 温度 (摂氏)
• 96 % : GPU 使用率
• 11848 / 12287 MB : GPU メモリ使用量 (使用量 / 合計)
• python/... : GPU で実行中のプロセス、所有者/コマンドライン/PID (およびその GPU メモリ使用量)

変更履歴

CHANGELOG.md を参照してください。

ライセンス

MITライセンス