### 使用 PyTorch 实现 AutoEncoders 分类模型 为了构建一个基于自动编码器 (AutoEncoder) 的分类模型，在 PyTorch 中通常会遵循特定的设计模式。下面介绍一种方法来实现这一目标。 #### 构建自定义网络架构 首先，设计一个简单的卷积神经网络作为编码器部分，该部分负责学习输入数据的有效表示形式： ```python import torch.nn as nn class Encoder(nn.Module): def __init__(self): super(Encoder, self).__init__() self.encoder = nn.Sequential( nn.Conv2d(in_channels=1, out_channels=8, kernel_size=3, stride=2, padding=1), nn.ReLU(True), nn.Conv2d(in_channels=8, out_channels=16, kernel_size=3, stride=2, padding=1), nn.BatchNorm2d(num_features=16), nn.ReLU(True), nn.Conv2d(in_channels=16, out_channels=32, kernel_size=3, stride=2, padding=0), nn.ReLU(True)) self.fc = nn.Linear(in_features=32 * 3 * 3, out_features=64) def forward(self, x): x = self.encoder(x) x = x.view(-1, 32 * 3 * 3) z = self.fc(x) return z ``` 接着，解码器尝试重构这些特征回到原始空间维度；然而对于分类任务而言，这部分可能不需要被训练或甚至省略[^1]。 #### 添加分类头 为了让自动编码器能够执行分类任务，可以在其顶部附加一个新的全连接层（即分类头），并仅对该部分参数进行优化: ```python class ClassifierHead(nn.Module): def __init__(self, num_classes): super(ClassifierHead, self).__init__() self.classifier = nn.Sequential( nn.Linear(in_features=64, out_features=num_classes)) def forward(self, x): logits = self.classifier(x) return logits # 将编码器与分类头部组合成完整的模型 model = nn.Sequential(Encoder(), ClassifierHead(num_classes=10)) # 假设有10个类别 for _, p in model.named_parameters(): p.requires_grad = False for _, p in model[-1].named_parameters(): # 只允许最后一层可训练 p.requires_grad = True ``` 上述代码片段展示了如何冻结预训练好的编码器权重而只更新新加入的分类层参数[^2]。 #### 定义损失函数和优化器 选择合适的损失函数至关重要。如果问题是多分类问题，则交叉熵是一个不错的选择；如果是二元分类则可以选择二值交叉熵[BCE Loss][^5]: ```python criterion = nn.CrossEntropyLoss() optimizer = torch.optim.Adam(filter(lambda p: p.requires_grad, model.parameters()), lr=1e-3) ``` 通过这种方式设置后，就可以利用标准的小批量梯度下降算法来进行监督学习下的微调过程了。