### 如何让PyTorch使用GPU 在深度学习中，为了充分利用硬件资源并加速模型训练，通常需要确保PyTorch能够正确地调用GPU进行计算。以下是解决PyTorch仅使用CPU问题的详细方法[^2]。 #### 1. 确保系统环境支持GPU加速 - 首先，确认安装了支持GPU的PyTorch版本。如果当前安装的是仅支持CPU的PyTorch版本，则无法调用GPU。可以通过以下命令重新安装支持CUDA的PyTorch版本： ```bash pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 ``` 上述命令中的`cu118`表示CUDA 11.8版本。根据实际使用的CUDA版本调整此参数[^3]。 #### 2. 检查GPU可用性 运行以下代码以验证GPU是否可用： ```python import torch if torch.cuda.is_available(): print("GPU is available") # 如果输出此行，说明GPU可用 else: print("GPU is not available") print(torch.cuda.get_device_name(0)) # 查看GPU设备名称 ``` 如果输出显示“GPU is not available”，则可能是因为未正确安装CUDA或显卡驱动不兼容。 #### 3. 将Tensor和模型移动到GPU上 即使GPU可用，PyTorch默认仍会在CPU上执行计算。需要显式地将Tensor和模型移动到GPU上： ```python device = torch.device("cuda" if torch.cuda.is_available() else "cpu") # 创建一个Tensor并将其移动到指定设备 x = torch.tensor([1, 2, 3]) x = x.to(device) # 示例：将模型移动到GPU model = YourModel() # 假设已定义了一个模型类 model.to(device) ``` 通过上述代码，所有后续操作（如前向传播、反向传播）都会在GPU上执行[^2]。 #### 4. 确保CUDA驱动和显卡兼容 - 显卡必须支持CUDA运算。NVIDIA推出的统一计算设备架构CUDA是实现GPU加速的核心技术[^3]。 - 确认安装了与显卡匹配的CUDA驱动程序。可以访问NVIDIA官方网站下载最新的驱动版本。 #### 5. 调试和性能优化 - 如果仍然遇到问题，可以尝试以下方法： - 检查是否有多个GPU，并设置主GPU： ```python torch.cuda.set_device(0) # 设置第一个GPU为主设备 ``` - 确保GPU内存足够。如果模型过大，可能会导致内存不足错误。可以减少批量大小（batch size）或优化模型结构[^1]。 ### 总结 通过正确安装支持CUDA的PyTorch版本、验证GPU可用性、将数据和模型移动到GPU上以及确保环境兼容性，可以有效解决PyTorch仅使用CPU的问题[^2]。