### 如何在 PyTorch 中使用 GPU 运行代码 要在 PyTorch 中利用 GPU 加速计算，需要完成以下几个方面的操作： #### 1. 检测是否有可用的 GPU 可以通过 `torch.cuda.is_available()` 函数来判断当前环境中是否存在可用的 CUDA 设备。如果返回值为 True，则说明可以使用 GPU；否则只能依赖 CPU[^3]。 ```python import torch use_gpu = torch.cuda.is_available() print(f"Is GPU available? {use_gpu}") ``` #### 2. 定义设备对象 根据检测结果创建对应的设备对象。如果有可用的 GPU，则定义为 `"cuda"` 类型；如果没有则回退至 `"cpu"`[^2]。 ```python device = torch.device("cuda" if use_gpu else "cpu") print(f"Using device: {device}") ``` #### 3. 将张量或模型迁移到指定设备上 无论是处理数据还是训练神经网络模型，在实际运算前都需要将它们显式地转移到目标设备（即 GPU 或 CPU）之上[^4]。 对于单个张量而言： ```python tensor_cpu = torch.randn(3, 3) tensor_gpu = tensor_cpu.to(device) # Move the tensor to selected device print(tensor_gpu) ``` 针对整个深度学习模型来说，同样也需要执行迁移动作： ```python class SimpleNet(torch.nn.Module): def __init__(self): super(SimpleNet, self).__init__() self.fc = torch.nn.Linear(10, 1) def forward(self, x): return self.fc(x) model = SimpleNet().to(device) # Transfer model parameters and buffers to target device. input_data = torch.randn(5, 10).to(device) # Example input data moved accordingly. output = model(input_data) print(output) ``` 以上展示了完整的流程——从初始化硬件资源到构建并部署简单的全连接层结构实例化后的 Neural Network 到选定的目标平台上进行推理演示[^4]。 #### 常见错误及其解决方案 当尝试切换至 GPU 执行任务时可能会遇到一些典型问题，比如版本兼容性不足、驱动程序未更新等状况。对此类情况可参照专门文档进一步排查解决办法[^4]。 ```python # Debugging tips when facing issues with GPU usage in PyTorch try: assert torch.cuda.is_initialized(), 'CUDA initialization failed.' except AssertionError as e: print(e) finally: pass ```