### Docker 中指定特定 GPU 卡的用法 #### 1. 基本概念 Docker 支持通过 `--gpus` 参数来管理容器对主机 GPU 的访问权限。此功能依赖于 NVIDIA 提供的专用工具链，例如 `nvidia-docker` 和 `nvidia-container-toolkit`。这些工具允许开发者灵活定义哪些 GPU 资源可供容器使用。 #### 2. 指定单个或多个 GPU 的方法 ##### (1) **使用所有 GPU** 如果希望容器能够访问主机上的全部 GPU，可以简单地传递 `all` 参数给 `--gpus`： ```bash docker run --gpus all nvidia/cuda:9.0-base nvidia-smi ``` 这表示容器将获得对所有可用 GPU 的完全控制权[^1]。 ##### (2) **限制数量** 当只需要分配固定数目而非全部 GPU 给某容器时，可以用整数形式指明需求的数量： ```bash docker run --gpus 2 nvidia/cuda:9.0-base nvidia-smi ``` 这里仅授予两块随机选取出来的 GPU 设备使用权[^1]。 ##### (3) **按索引选择具体设备** 更精细的操作方式则是依据编号挑选确切的目标 GPU。比如要让应用独占第二号与第三号卡，则如下所示： ```bash docker run --gpus '"device=1,2"' nvidia/cuda:9.0-base nvidia-smi ``` 注意这里的索引是从零开始计数；另外整个字符串需要用双引号包裹以防被 shell 解析错误。 ##### (4) **基于 UUID 定位** 除了依靠位置外还可以利用唯一标识符(UUID)定位目标硬件单元。这对于大型数据中心环境尤其有用因为能有效避免因热拔插等原因造成序号变动带来的困扰： ```bash docker run --gpus '"device=UUID-ABCDEF,1"' nvidia/cuda:9.0-base nvidia-smi ``` 其中 `"device=UUID-ABCDEF"` 替代了传统的数字型描述。 #### 3. 配置注意事项 为了确保上述指令顺利生效，在实际部署之前还需要完成若干前置准备工作： - **安装必要组件** 确认已经正确设置了支持 GPU 加速所需的软件包，包括但不限于驱动程序版本匹配以及 container toolkit 初始化完毕。 - **调整服务配置文件** 编辑位于 `/etc/docker/daemon.json` 的全局设定文档加入自定义 runtime handler ，如下面例子展示那样明确指出采用的是由 Nvidia 开发并维护的那个实现方案[^3]: ```json { "runtimes": { "nvidia": { "path": "nvidia-container-runtime", "runtimeArgs": [] } }, ... } ``` 随后重启守护进程使更改立即反映出来: ```bash sudo systemctl restart docker ``` 最后测试一下基础功能性是否完好无损即可正式投入使用阶段啦！ --- ###