### Python代码指定不同GPU运行 对于多GPU配置，在Python中可以使用多种方法来控制哪些部分的代码在哪个GPU上执行。这主要依赖于所使用的库，比如TensorFlow或PyTorch。 #### TensorFlow中的实现方式 在TensorFlow中，可以通过设置`tf.config.set_visible_devices()`函数来限定可见的物理设备列表[^1]。下面是一个简单的例子： ```python import tensorflow as tf gpus = tf.config.experimental.list_physical_devices('GPU') if gpus: try: # 仅限第一个GPU可用 tf.config.experimental.set_visible_devices(gpus[0], 'GPU') logical_gpus = tf.config.experimental.list_logical_devices('GPU') print(len(gpus), "Physical GPUs,", len(logical_gpus), "Logical GPU") except RuntimeError as e: # 可见性必须在程序启动时设定 print(e) ``` 如果想要切换到第二个GPU，则只需修改索引号即可： ```python # 将上面的例子改为只允许访问第二张卡（假设存在） tf.config.experimental.set_visible_devices(gpus[1], 'GPU') ``` 另外一种更灵活的方法是在创建模型实例之前通过环境变量`CUDA_VISIBLE_DEVICES`来定义可被当前进程看到的具体哪几块显卡[^4]: ```bash export CUDA_VISIBLE_DEVICES=1 # Linux/MacOS命令行下设置 set CUDA_VISIBLE_DEVICES=1 # Windows命令提示符下设置 ``` 之后再启动Python脚本就可以达到同样的效果。 #### PyTorch中的实现方式 而在PyTorch里边，操作相对更加直观一点。可以直接调用`.to(device)`方法将tensor或者module移动至目标device之上： ```python import torch device = torch.device("cuda:1") if torch.cuda.is_available() else torch.device("cpu") model.to(device) input_tensor = input_tensor.to(device) output = model(input_tensor) ``` 上述代码片段展示了如何把模型以及输入数据迁移到编号为1的GPU上去处理。