gpustat
v1.1.1
gpustat
就比 nvidia-smi低一点?
注意:这仅适用于 NVIDIA 图形设备,目前不支持 AMD。欢迎贡献!
自我推销: gpustat
的 Web 界面可用(alpha 版)!查看 gpustat-web。
从 PyPI 安装:
pip install gpustat
如果您没有 root (sudo) 权限,请尝试在用户命名空间上安装gpustat
: pip install --user gpustat
。
通过 pip 安装最新版本(master 分支):
pip install git+https://github.com/wookayin/gpustat.git@master
pynvml
要求重要的
请勿: pip install pynvml
,也不要将pynvml
作为依赖项包含在您的 python 项目中。这是行不通的。
相反: pip install nvidia-ml-py
。 nvidia-ml-py 是 NVIDIA 的 NVML 官方 python 绑定。
nvidia-ml-py >= 12.535.108
(#161)nvidia-ml-py >= 11.450.129
。gpustat
版本 ( pip install gpustat<1.0
)。有关更多详细信息,请参阅#107。$ gpustat
选项(请参阅gpustat --help
了解更多详细信息):
--color
: 强制彩色输出(即使 stdout 不是 tty)--no-color
:抑制彩色输出-u
, --show-user
: 显示进程所有者的用户名-c
, --show-cmd
: 显示进程名称-f
, --show-full-cmd
: 显示正在运行的进程的完整命令和 cpu 统计信息-p
, --show-pid
: 显示进程的PID-F
, --show-fan
: 显示 GPU 风扇速度-e
, --show-codec
:显示编码器和/或解码器利用率-P
, --show-power
:显示 GPU 功耗和/或限制( draw
或draw,limit
)-a
, --show-all
: 显示上面所有的 GPU 属性--id
:仅使用指定索引定位和查询特定 GPU(例如--id 0,1,2
)--no-processes
: 不显示进程信息(用户、内存) (#133)--watch
、 -i
、 --interval
:如果给定,则以监视模式运行(相当于watch gpustat
)。表示更新之间的间隔。--json
: JSON 输出 (#10)--print-completion (bash|zsh|tcsh)
: 打印 shell 完成脚本。使用方法请参见#131。gpustat --debug
。gpustat --watch
或gpustat -i
(#41)。watch --color -n1.0 gpustat --color
。nvidia-smi daemon
(需要 root 权限)将使查询 GPU 的速度更快并使用更少的 CPU (#54)。gpustat
(和nvidia-smi
)显示的 GPU ID(索引)是 PCI 总线 ID,而 CUDA 默认情况下使用不同的排序(分配最快的 GPU 和最低 ID)。因此,为了确保 CUDA 和gpustat
使用相同的 GPU 索引,请将CUDA_DEVICE_ORDER
环境变量配置为PCI_BUS_ID
(在为 CUDA 程序设置CUDA_VISIBLE_DEVICES
之前): export CUDA_DEVICE_ORDER=PCI_BUS_ID
。 [0] GeForce GTX Titan X | 77°C, 96 % | 11848 / 12287 MB | python/52046(11821M)
[0]
:GPU索引(从0开始)作为PCI_BUS_IDGeForce GTX Titan X
:GPU 名称77°C
:GPU 温度(摄氏度)96 %
:GPU 利用率11848 / 12287 MB
:GPU 内存使用情况(已用/总计)python/...
:在 GPU、所有者/cmdline/PID 上运行进程(及其 GPU 内存使用情况) 请参阅 CHANGELOG.md
麻省理工学院许可证