Linux系统,在程序运行的时候,如何实时监控GPU卡的使用率呢?

首先,你需要安装好CUDA。

然后,你需要将CUDA的bin目录加入到PATH中。方法是在终端窗口输入如下命令:

# vi ~/.bashrc

将 /usr/local/cuda/bin 加入到 PATH 中,即.bashrc文件增加如下内容:

export PATH=$PATH:/usr/local/cuda/bin

保存退出。

退出终端窗口,重新启动一个终端窗口以使更改生效。

在终端窗口输入如下命令:

# nvidia-smi -l

nvidia-smi(NVIDIA System Management Interface)可以实时监控GPU卡的使用情况,-l是其参数,用于循环显示。

下图是插有1片K20卡的机器运行nvidia-smi –l 后的显示示意图:

可以看到,这时没有调用GPU的程序在运行,GPU卡的使用率为0%。

有程序运行时,显示示意如下图。下面的大框显示程序名,GPU卡的使用率为59%。

K80是双核心卡,1片K80即2个GPU设备。没有使用率时的显示示意图如下:

如果程序调用1个GPU设备,那么nvidia-smi –l 的执行结果如下图所示:

如果程序调用2个GPU设备,那么nvidia-smi –l 的执行结果如下图所示:

尊重作者辛勤劳动,转载请注明出处。

如果这篇文章有说得不清楚的地方,可以这样联系我们:

1)  联系在线客服,即时沟通;

2)  拨打 400-810-0205;

3)  给网站留言,描述你的问题并留下联系方式。

Logo

分享最新的 NVIDIA AI Software 资源以及活动/会议信息,精选收录AI相关技术内容,欢迎大家加入社区并参与讨论。

更多推荐