### PyTorch中处理ResNet预训练模型网络中断后的续训方法 当遇到由于网络问题导致的PyTorch ResNet预训练模型训练过程中断的情况时，可以采取保存检查点(checkpoint)的方式，在下次启动程序时加载这些检查点来恢复之前的训练状态[^1]。 为了实现这一目标，通常会在训练循环内定期保存模型的状态字典(state_dict)，优化器(optimizer)的状态以及其他任何有助于重建精确训练环境的信息。下面是一个简单的例子展示如何做到这一点： ```python import torch from torchvision import models, datasets, transforms from torch.utils.data import DataLoader device = 'cuda' if torch.cuda.is_available() else 'cpu' model = models.resnet50(pretrained=True).to(device) criterion = torch.nn.CrossEntropyLoss() optimizer = torch.optim.Adam(model.parameters(), lr=0.001) def save_checkpoint(epoch, model, optimizer, loss): checkpoint = { "epoch": epoch, "model_state_dict": model.state_dict(), "optimizer_state_dict": optimizer.state_dict(), "loss": loss } torch.save(checkpoint, f"./checkpoint_epoch_{epoch}.pth") # 假设这是你的训练函数的一部分... for epoch in range(starting_epoch, num_epochs): running_loss = 0.0 for inputs, labels in dataloader: ... # 训练过程中的前向传播、反向传播和参数更新 ... # 定期保存检查点 if (iteration % CHECKPOINT_SAVE_INTERVAL == 0): save_checkpoint(epoch, model, optimizer, running_loss / len(dataloader)) # 每完成一轮也应考虑保存一次完整的检查点 save_checkpoint(epoch, model, optimizer, running_loss / len(dataloader)) ``` 要从之前停止的地方重新开始训练，则只需读取最近的一个检查点文件并将其内容赋给相应的变量即可: ```python def load_checkpoint(filepath): checkpoint = torch.load(filepath) model.load_state_dict(checkpoint['model_state_dict']) optimizer.load_state_dict(checkpoint['optimizer_state_dict']) epoch = checkpoint['epoch'] loss = checkpoint['loss'] return model, optimizer, epoch, loss filepath = "./checkpoint_epoch_{}.pth".format(last_saved_epoch) model, optimizer, starting_epoch, last_loss = load_checkpoint(filepath) ``` 通过这种方式可以在遭遇意外情况如网络连接丢失之后有效地从中断位置继续未完成的工作而不必重头再来一遍整个训练流程[^2]。