linux下调节GPU的功率限制

阿里云国内75折 回扣 微信号:monov8
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6
您可以通过在应用程序运行时使用 nvidia-smi 监控 GPU 来确认是否正在发生这种情况。
 nvidia-smi dmon 
如果您希望调整功率上限请按照以下步骤操作
  1. 按如下方式确定当前、默认和最大功率限制
  2. nvidia-smi -q | grep 'Power Limit'
  3. 确保正在使用持久性模式。
  4.                 
    sudo nvidia-smi -i  00000000:01:00.0  -pm ENABLED
    

  5. 如下增加所有 GPU 的 SW Power Cap 限制其中xxx是所需的瓦特值
    sudo nvidia-smi -pl  240
    
注意您必须在每次启动服务器时增加功率限制并设置持久性。

持久模式是用户可设置的驱动程序属性的术语即使没有客户端连接到目标 GPU它也能使目标 GPU 保持初始化状态。此解决方案已接近生命周期结束最终将被弃用取而代之的是Persistence Daemon

可以使用 nvidia-smi 或通过 NVML API 以编程方式设置持久性模式。

使用 nvidia-smi作为 root启用持久模式

nvidia-smi -i <目标 gpu> -pm 已启用
    为 GPU <target gpu> 启用了持久性模式。
    全部做完。

使用 nvidia-smi 查看当前持久化模式

<span style="background-color:#eaefe0"><span style="color:#224400">nvidia-smi -i <目标GPU> - q
    ==============NVSMI日志==============

    时间戳----
    驱动程序版本----

    附加的GPU----
    GPU 0000:01:00.0
        产品名称   -  - 
        显示模式   -  - 
        显示活动----
        <strong>持久模式已启用</strong>
        计费方式----
        ...
    </span></span>
阿里云国内75折 回扣 微信号:monov8
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6
标签: linux

“linux下调节GPU的功率限制” 的相关文章