### Python 中使用 GPU 进行加速的方法 #### 使用环境变量配置 GPU 加速 当在终端环境中执行 Python 脚本时，可以通过设置 `CUDA_VISIBLE_DEVICES` 环境变量来指定使用的 GPU 设备。这允许开发者控制哪个 GPU 将被用于运行特定的任务[^2]。 ```bash CUDA_VISIBLE_DEVICES=0 python filename.py ``` 此命令会使得脚本仅能看到编号为 0 的 GPU 设备，从而实现对该设备的选择性调用。 #### 验证 CUDA 安装情况 为了确保能够顺利地利用 GPU 来加速 Python 应用程序，在开始之前应当验证 CUDA 是否已经正确安装并可用。通过一段简单的代码片段可以完成这项工作： ```python import torch print(torch.cuda.is_available()) # 输出 True 表明支持 CUDA, False 则表示不支持 ``` 这段代码依赖于 PyTorch 库来进行检测，并且假设读者已经在系统中完成了相应的库安装以及必要的驱动程序部署[^3]。 #### 设置模型与数据到 GPU 上 一旦确认了硬件条件满足需求，则可以在编写神经网络或其他计算密集型应用的过程中加入如下几行代码，以便让这些操作能够在 GPU 上高效地被执行: ```python import os import torch.nn as nn from torchvision import models # 指定要使用的GPU ID (这里假设有两块以上的GPU) os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" os.environ['CUDA_LAUNCH_BLOCKING'] = '1' device_ids = [1] model = models.resnet50(pretrained=True).to('cuda') criterion = nn.CrossEntropyLoss().to('cuda') for param in model.parameters(): param.requires_grad_(False) data_loader = ... # 数据加载器定义省略 for inputs, labels in data_loader: inputs, labels = inputs.to('cuda'), labels.to('cuda') # 移动输入张量至GPU outputs = model(inputs) loss = criterion(outputs, labels) optimizer.zero_grad() loss.backward() optimizer.step() del model torch.cuda.empty_cache() # 清理缓存以释放显存空间 ``` 上述代码展示了如何创建一个基于 ResNet 架构的卷积神经网络实例，并将其放置在 GPU 上进行前向传播和反向传播过程中的参数更新。同时注意到对于每次迭代的数据批次也进行了同样的迁移处理，保证整个流程都在高效的硬件资源之上运作。