triton运行所需 离线安装nvidia-container-toolkit

阿里云国内75折 回扣 微信号:monov8
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6

背景

为了在容器中使用gpu使得--gpus参数时报错docker: Error response from daemon: could not select device driver ““ with capabilities: [[gpu]]报错说明需要安装NVIDIA Container Toolkit。

可遵循nvidia官方的教程container-toolkit/install-guide但有时候网络不通无法下载到依赖。

解决离线安装

参考知乎教程 Ubuntu离线安装NVIDIA Docker你需要下载几个deb包并按照依赖顺序离线安装它们。

可以到 http://mirror.cs.uchicago.edu/nvidia-docker/libnvidia-container/stable/ubuntu16.04/amd64/ 下载 nvidia-container-toolkit_1.12.0-1_amd64.deb它会提示你缺少的依赖你可以在网址中找到对应deb包并安装。

你可能会下载安装了好几个deb包并且依赖链条上的deb包都可以在该镜像网站中找到所以保持耐心下载。

备注取消tls连接检查

在有些特殊服务器环境下https会导致连接失败所以命令中可以带上参数使得不进行https证书检查。比如curl --insecure

curl --insecure -s -L https://nvidia.github.io/nvidia-docker/ubuntu22.04/nvidia-docker.list > /etc/apt/sources.list.d/nvidia-docker.list

以及apt的Acquire::https::Verify-Peer=false参数

sudo apt-get -o Acquire::https::Verify-Peer=false update
阿里云国内75折 回扣 微信号:monov8
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6