### 加载已训练模型并执行推理 为了在 PyTorch 中加载已经训练好的模型并进行推理，可以遵循一系列操作来确保过程顺利。这包括下载预训练模型文件、定义相应的网络结构以及设置输入数据。 #### 下载预训练模型 首先需要获取预训练权重文件。按照说明，可以从指定链接下载用于特定任务（如文本到图像生成）的预训练模型： ```bash mkdir -p models/ldm/text2img-large/ wget -O models/ldm/text2img-large/model.ckpt https://ommer-lab.com/files/latent-diffusion/nitro/txt2img-f8-large/model.ckpt ``` 此命令创建目录并将 `.ckpt` 文件保存至该位置[^2]。 #### 定义模型架构 接着，在 Python 脚本中导入必要的库，并构建与所下载参数匹配的神经网络实例。假设使用的是 `torchvision.models` 或其他自定义类，则应先初始化未带权值的模型对象。 ```python import torch from some_module import CustomModel # 假设这是对应的模型定义模块 model = CustomModel() ``` 如果采用官方支持的模型，可以直接通过 torchvision 获取： ```python import torchvision.models as models # 使用 resnet50 作为例子 model = models.resnet50(pretrained=False) ``` #### 加载权重 有了无权重的模型框架之后，下一步就是加载之前下载下来的`.ckpt`格式或其他形式的权重文件。对于不同类型的存档方式，可能需要用到不同的方法解析这些文件；这里展示一种常见的方式处理 Lightning Checkpoint: ```python checkpoint = torch.load('path_to_checkpoint_file', map_location=torch.device('cpu')) state_dict = checkpoint["state_dict"] for k in list(state_dict.keys()): state_dict[k.replace("model.", "")] = state_dict.pop(k) model.load_state_dict(state_dict) model.eval() # 切换到评估模式 ``` 这段代码会读取检查点中的状态字典，并调整键名以便于适配当前模型变量名称，最后调用 `load_state_dict()` 方法完成实际赋值工作[^1]。 #### 执行推理 准备好模型后就可以准备测试样本了。通常情况下，还需要对输入做适当变换使其符合预期规格。下面是一个简单的推断流程示例： ```python from PIL import Image from torchvision import transforms preprocess = transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]), ]) image_path = "example.jpg" input_image = Image.open(image_path).convert('RGB') input_tensor = preprocess(input_image) input_batch = input_tensor.unsqueeze(0) # 创建批次维度 with torch.no_grad(): output = model(input_batch) print(output) ``` 上述脚本展示了如何利用 Pillow 库打开图片文件并通过 torchvision 的转换器对其进行标准化处理，随后传递给模型得到预测结果[^4]。