### 如何在 PyTorch 中定义自定义模型的参数 在 PyTorch 中，可以通过 `nn.Parameter` 将张量标记为模型的参数。这使得该张量能够被优化器自动追踪并更新其梯度[^1]。 以下是实现这一功能的具体方法： #### 使用 `nn.Parameter` 定义可学习参数 当创建一个类继承自 `torch.nn.Module` 时，在初始化函数 (`__init__`) 中可以将任何需要学习的张量封装到 `nn.Parameter` 对象中。这样做的好处是这些参数会被视为模型的一部分，并能通过调用 `.parameters()` 方法获取它们以便于后续优化操作。 ```python import torch import torch.nn as nn class CustomModel(nn.Module): def __init__(self, input_size, hidden_size, output_size): super(CustomModel, self).__init__() # Define weights and biases manually using nn.Parameter self.weight_1 = nn.Parameter(torch.randn(input_size, hidden_size)) self.bias_1 = nn.Parameter(torch.zeros(hidden_size)) self.weight_2 = nn.Parameter(torch.randn(hidden_size, output_size)) self.bias_2 = nn.Parameter(torch.zeros(output_size)) def forward(self, x): # Perform matrix multiplication and add bias (first layer) out = torch.matmul(x, self.weight_1) + self.bias_1 # Apply activation function like ReLU or Sigmoid here if needed. out = torch.relu(out) # Second linear transformation out = torch.matmul(out, self.weight_2) + self.bias_2 return out ``` 上述代码展示了如何手动定义两层神经网络中的权重和偏置作为模型参数。 #### 自动管理参数的方式 除了显式声明外，还可以利用内置模块如 `nn.Linear`, `nn.Conv2d` 等来简化过程。这些高层组件内部已经处理好了相应的参数设置工作，因此无需再单独编写类似上面那样的矩阵运算逻辑。 例如修改 ResNet 输出层的例子说明了替换全连接层以适应新分类任务的需求[^2]: ```python import torchvision.models as models model = models.resnet18(pretrained=True) num_ftrs = model.fc.in_features model.fc = nn.Linear(num_ftrs, 10) # Adjusting final classification head for new dataset with 10 classes. if torch.cuda.is_available(): model.to('cuda') ``` 此片段体现了调整预训练模型最后一层的方法，从而满足特定应用场景下的需求。 另外关于学习率调度方面提到过的内容，则涉及到了更复杂的训练策略配置[^3]。