在 PyTorch 中加载预训练的 VGG19 模型并将其输出限制为 ImageNet 的前 500 类，涉及几个关键步骤：模型加载、输出层修改、数据准备以及微调和评估流程。以下是一个完整的实现方案： ### 加载预训练的 VGG19 模型 PyTorch 提供了对常见模型（如 VGG19）的预训练权重支持。可以通过 `torchvision.models` 模块加载预训练的 VGG19 模型。 ```python import torchvision.models as models import torch # 加载预训练的 VGG19 模型 model = models.vgg19(pretrained=True) ``` 由于目标是仅使用前 500 个类别，需要替换最后的全连接层。VGG19 的原始输出维度为 1000，因此需要将最后一层改为输出 500 维向量。 ```python # 替换最后的全连接层以适应 500 类输出 model.classifier[6] = torch.nn.Linear(4096, 500) ``` ### 准备 NIPS2017 测试集 NIPS2017 测试集通常用于对抗样本的评估任务，但也可以作为分类任务的数据集使用。假设数据已经按照标准格式组织，可以使用 `torchvision.datasets.ImageFolder` 加载数据，并应用适当的图像变换。 ```python from torchvision import transforms from torch.utils.data import DataLoader import torchvision.datasets as datasets # 图像预处理 transform = transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]), ]) # 加载 NIPS2017 测试集 test_dataset = datasets.ImageFolder(root='path_to_nips2017_testset', transform=transform) test_loader = DataLoader(test_dataset, batch_size=32, shuffle=False, num_workers=4) ``` ### 微调模型 为了进行微调，可以启用所有参数的梯度更新，并使用合适的优化器和学习率策略。 ```python # 启用 GPU 如果可用 device = torch.device("cuda" if torch.cuda.is_available() else "cpu") model = model.to(device) # 定义损失函数和优化器 criterion = torch.nn.CrossEntropyLoss() optimizer = torch.optim.SGD(model.parameters(), lr=0.001, momentum=0.9) # 训练循环示例（此处仅展示单轮） def train_one_epoch(model, dataloader, criterion, optimizer, device): model.train() for inputs, labels in dataloader: inputs, labels = inputs.to(device), labels.to(device) outputs = model(inputs) loss = criterion(outputs, labels) optimizer.zero_grad() loss.backward() optimizer.step() ``` ### 在 NIPS2017 测试集上评估性能 评估阶段主要计算准确率等指标。 ```python def evaluate(model, dataloader, device): model.eval() correct = 0 total = 0 with torch.no_grad(): for inputs, labels in dataloader: inputs, labels = inputs.to(device), labels.to(device) outputs = model(inputs) _, predicted = torch.max(outputs.data, 1) total += labels.size(0) correct += (predicted == labels).sum().item() return correct / total accuracy = evaluate(model, test_loader, device) print(f'Test Accuracy: {accuracy * 100:.2f}%') ``` ### 注意事项 - **ImageNet 子集训练**：如果希望模型更好地适应前 500 类，可以在 ImageNet 的子集上进行训练，而不是直接使用全部 1000 类。 - **对抗性样本考虑**：NIPS2017 测试集可能包含对抗样本，评估时需注意模型的鲁棒性[^1]。 - **迁移学习技巧**：除了直接替换最后一层，还可以冻结部分卷积层，在顶层进行训练，以防止过拟合。