`gpustat`

น้อยกว่า nvidia-smi เหรอ?

ภาพหน้าจอ: gpustat -cp

หมายเหตุ: ใช้งานได้กับอุปกรณ์กราฟิก NVIDIA เท่านั้น ขณะนี้ยังไม่รองรับ AMD ยินดีบริจาค!

การโปรโมตตนเอง: มีเว็บอินเตอร์เฟสของ gpustat (ในอัลฟ่า)! ลองดูเว็บ gpustat

การติดตั้งอย่างรวดเร็ว

ติดตั้งจาก PyPI:

 pip install gpustat

หากคุณไม่มีสิทธิ์ root (sudo) โปรดลองติดตั้ง gpustat บนเนมสเปซผู้ใช้: pip install --user gpustat

วิธีติดตั้งเวอร์ชันล่าสุด (สาขาหลัก) ผ่าน pip:

 pip install git+https://github.com/wookayin/gpustat.git@master

ข้อกำหนดไดรเวอร์ NVIDIA และ `pynvml`

สำคัญ

อย่า: pip install pynvml และไม่รวม pynvml เป็นการพึ่งพาในโปรเจ็กต์ python ของคุณ สิ่งนี้จะไม่ทำงาน

แทน: pip install nvidia-ml-py nvidia-ml-py เป็น Python อย่างเป็นทางการของ NVIDIA ที่มีผลผูกพันกับ NVML

gpustat 1.2+: ต้องใช้ nvidia-ml-py >= 12.535.108 (#161)
gpustat 1.0+: ต้องใช้ไดรเวอร์ NVIDIA 450.00 หรือสูงกว่า และ nvidia-ml-py >= 11.450.129
หากไดรเวอร์ NVIDIA ของคุณเก่าเกินไป คุณสามารถใช้ gpustat เวอร์ชันเก่ากว่าได้ ( pip install gpustat<1.0 ) ดู #107 สำหรับรายละเอียดเพิ่มเติม

ข้อกำหนดหลาม

gpustat<1.0: เข้ากันได้กับ python 2.7 และ >=3.4
gpustat 1.0: หลาม >= 3.4
gpustat 1.1: หลาม >= 3.6

การใช้งาน

$ gpustat

ตัวเลือก (โปรดดู gpustat --help สำหรับรายละเอียดเพิ่มเติม):

--color : บังคับให้เอาต์พุตสี (แม้ว่า stdout จะไม่ใช่ tty)
--no-color : ระงับเอาต์พุตสี
-u , --show-user : แสดงชื่อผู้ใช้ของเจ้าของกระบวนการ
-c , --show-cmd : แสดงชื่อกระบวนการ
-f , --show-full-cmd : แสดงคำสั่งแบบเต็มและสถิติ cpu ของกระบวนการที่ทำงานอยู่
-p , --show-pid : แสดง PID ของกระบวนการ
-F , --show-fan : แสดงความเร็วพัดลม GPU
-e , --show-codec : การใช้ตัวเข้ารหัสการแสดงผลและ/หรือตัวถอดรหัส
-P , --show-power : แสดงการใช้พลังงานของ GPU และ/หรือขีดจำกัด ( draw หรือ draw,limit )
-a , --show-all : แสดงคุณสมบัติ GPU ทั้งหมดด้านบน
--id : กำหนดเป้าหมายและค้นหา GPU เฉพาะด้วยดัชนีที่ระบุเท่านั้น (เช่น --id 0,1,2 )
--no-processes : อย่าแสดงข้อมูลกระบวนการ (ผู้ใช้, หน่วยความจำ) (#133)
--watch , -i , --interval : ทำงานในโหมดนาฬิกา (เทียบเท่ากับ watch gpustat ) หากได้รับ หมายถึงช่วงเวลาระหว่างการอัพเดต
--json : เอาต์พุต JSON (#10)
--print-completion (bash|zsh|tcsh) : พิมพ์สคริปต์การเติมเชลล์ให้สมบูรณ์ ดู #131 สำหรับการใช้งาน

เคล็ดลับ

ลองใช้ gpustat --debug หากมีสิ่งผิดปกติเกิดขึ้น
หากต้องการดูเป็นระยะ ให้ลองใช้ gpustat --watch หรือ gpustat -i (#41)
- สำหรับรุ่นเก่า อาจใช้ watch --color -n1.0 gpustat --color
การเรียกใช้ nvidia-smi daemon (ต้องใช้สิทธิ์ root) จะทำให้การสืบค้น GPU เร็วขึ้น มาก และใช้ CPU น้อยลง (#54)
GPU ID (ดัชนี) ที่แสดงโดย gpustat (และ nvidia-smi ) คือ PCI BUS ID ในขณะที่ CUDA ใช้การเรียงลำดับที่แตกต่างกัน (กำหนด GPU ที่เร็วที่สุดด้วย ID ต่ำสุด) ตามค่าเริ่มต้น ดังนั้น เพื่อให้มั่นใจว่า CUDA และ gpustat ใช้ ดัชนี GPU เดียวกัน ให้กำหนดค่าตัวแปรสภาพแวดล้อม CUDA_DEVICE_ORDER เป็น PCI_BUS_ID (ก่อนตั้งค่า CUDA_VISIBLE_DEVICES สำหรับโปรแกรม CUDA ของคุณ): export CUDA_DEVICE_ORDER=PCI_BUS_ID

การแสดงผลเริ่มต้น

 [0] GeForce GTX Titan X | 77°C,  96 % | 11848 / 12287 MB | python/52046(11821M)

[0] : ดัชนี GPU (เริ่มจาก 0) เป็น PCI_BUS_ID
GeForce GTX Titan X : ชื่อ GPU
77°C : อุณหภูมิ GPU (เป็นเซลเซียส)
96 % : การใช้งาน GPU
11848 / 12287 MB : การใช้หน่วยความจำ GPU (ใช้แล้ว / ทั้งหมด)
python/... : กำลังรันกระบวนการบน GPU, เจ้าของ/cmdline/PID (และการใช้งานหน่วยความจำ GPU)