以下是一个掩码自编码模型的PyTorch代码，该模型使用了一个编码器和解码器网络，并使用一个掩码层来增加模型的稀疏性。 ``` import torch import torch.nn as nn import torch.nn.functional as F class MaskedAutoencoder(nn.Module): def __init__(self, input_size, hidden_size): super(MaskedAutoencoder, self).__init__() self.input_size = input_size self.hidden_size = hidden_size self.encoder = nn.Sequential( nn.Linear(input_size, hidden_size), nn.ReLU() ) self.decoder = nn.Sequential( nn.Linear(hidden_size, input_size), nn.Sigmoid() ) self.mask = nn.Parameter(torch.randn(hidden_size, input_size)) def forward(self, x): encoded = self.encoder(x) masked = encoded * self.mask decoded = self.decoder(masked) return decoded ``` 该模型的构造函数需要传入输入维度和隐藏层维度。编码器和解码器分别是由一些线性层和非线性激活函数组成的序列。掩码层是一个可训练参数，它的形状与编码器输出的形状相同。在正向传递期间，编码器接收输入并将其编码为隐藏表示形式。然后，该隐藏表示形式通过掩码层进行掩码，以增加模型的稀疏性。最后，解码器将掩码隐藏表示形式解码为原始输入。 在使用该模型时，可以使用标准的PyTorch优化器和损失函数来训练模型。以下是一个使用均方误差损失函数训练模型的示例代码。 ``` model = MaskedAutoencoder(input_size=784, hidden_size=256) criterion = nn.MSELoss() optimizer = torch.optim.Adam(model.parameters(), lr=0.001) for epoch in range(10): for data in dataloader: inputs, _ = data optimizer.zero_grad() outputs = model(inputs.view(-1, 784)) loss = criterion(outputs, inputs.view(-1, 784)) loss.backward() optimizer.step() print(f"Epoch {epoch+1} loss: {loss.item():.4f}") ```