### PyTorch 实现训练中断后恢复的方法 为了应对训练过程中的意外中断，在PyTorch中可以通过保存和加载检查点(checkpoint)的方式实现训练的断点续训功能。具体来说，可以在每次迭代结束后将当前模型的状态字典(state_dict)，优化器状态以及其他必要的参数（如epoch数）保存到磁盘文件中；当程序再次启动时尝试读取该文件并从中恢复之前的状态。 下面是一个简单的例子来展示这一机制： ```python import os import torch def save_checkpoint(state, filename="checkpoint.pth.tar"): """Save checkpoint when a validation loss decreases.""" torch.save(state, filename) def load_checkpoint(checkpoint_path, model, optimizer=None): """Loads training checkpoint. :param checkpoint_path Path to the saved checkpoint file. """ if not os.path.exists(checkpoint_path): raise FileNotFoundError(f"No such checkpoint found at {checkpoint_path}") checkpoint = torch.load(checkpoint_path) start_epoch = checkpoint['epoch'] model.load_state_dict(checkpoint['state_dict']) if optimizer is not None: optimizer.load_state_dict(checkpoint['optimizer']) print(f"=> Loaded checkpoint '{checkpoint_path}' (trained for {start_epoch} epochs)") return start_epoch # 假设这是你的网络结构定义部分... model = ... # 定义好的神经网络实例化对象 optimizer = ... # 初始化好相应的优化算法类的对象 # 尝试加载已有的检查点继续训练 if os.path.isfile('my_checkpoint.pth.tar'): last_epoch = load_checkpoint('my_checkpoint.pth.tar', model, optimizer) for epoch in range(last_epoch + 1, max_epochs): # 开始新的轮次循环 train_one_epoch() # 执行单个周期内的全部batch更新操作 # 每完成一轮就创建一个新的检查点存档副本 save_checkpoint({ 'epoch': epoch, 'state_dict': model.state_dict(), 'optimizer' : optimizer.state_dict() }, f'my_checkpoint_{epoch}.pth.tar') ``` 上述代码片段展示了如何通过`save_checkpoint()`函数定期保存训练进度，并通过`load_checkpoint()`函数从指定路径加载之前的训练状态[^1]。需要注意的是，如果是在不同的硬件环境之间转移训练任务，则可能由于设备差异而导致一些问题，因此建议尽可能在同一套配置环境下执行完整的训练流程[^2]。