### 使用 NumPy 实现神经网络完成图像分类任务的数据结构设计及算法步骤 #### 1. 数据结构设计 在使用 NumPy 构建神经网络时，数据结构的设计至关重要。以下是关键数据结构的说明： - **`parameters`**：存储每一层的权重和偏置参数，通常以字典形式表示。键值对的形式为 `'W' + str(l)` 和 `'b' + str(l)`，分别表示第 `l` 层的权重矩阵和偏置向量[^2]。 - **`caches`**：存储前向传播中的中间结果，用于反向传播计算梯度。每一层的缓存是一个元组 `(linear_cache, activation_cache)`，其中 `linear_cache` 包含 `(A_prev, W, b)`，而 `activation_cache` 包含线性输出 `Z`[^2]。 - **`grads`**：存储反向传播计算出的梯度，通常以字典形式表示。键值对的形式为 `'dW' + str(l)` 和 `'db' + str(l)`，分别表示第 `l` 层权重和偏置的梯度。 #### 2. 算法步骤 以下是使用 NumPy 实现神经网络的主要步骤： ```python import numpy as np def initialize_parameters_deep(layer_dims): """ 初始化深度神经网络的参数。 """ parameters = {} L = len(layer_dims) # 网络层数 for l in range(1, L): parameters['W' + str(l)] = np.random.randn(layer_dims[l], layer_dims[l-1]) * 0.01 parameters['b' + str(l)] = np.zeros((layer_dims[l], 1)) return parameters def L_model_forward(X, parameters): """ 实现前向传播。 """ caches = [] A = X L = len(parameters) // 2 # 网络层数 for l in range(1, L): A_prev = A A, cache = linear_activation_forward(A_prev, parameters['W' + str(l)], parameters['b' + str(l)], activation="relu") caches.append(cache) AL, cache = linear_activation_forward(A, parameters['W' + str(L)], parameters['b' + str(L)], activation="sigmoid") caches.append(cache) return AL, caches def compute_cost(AL, Y): """ 计算成本函数。 """ m = Y.shape[1] cost = -(1/m) * np.sum(Y * np.log(AL) + (1 - Y) * np.log(1 - AL)) cost = np.squeeze(cost) return cost def L_model_backward(AL, Y, caches): """ 实现反向传播。 """ grads = {} L = len(caches) # 网络层数 m = AL.shape[1] Y = Y.reshape(AL.shape) # 确保 Y 的形状与 AL 相同 dAL = -(np.divide(Y, AL) - np.divide(1 - Y, 1 - AL)) current_cache = caches[L-1] grads["dA" + str(L-1)], grads["dW" + str(L)], grads["db" + str(L)] = linear_activation_backward(dAL, current_cache, activation="sigmoid") for l in reversed(range(L-1)): current_cache = caches[l] dA_prev_temp, dW_temp, db_temp = linear_activation_backward(grads["dA" + str(l + 1)], current_cache, activation="relu") grads["dA" + str(l)] = dA_prev_temp grads["dW" + str(l + 1)] = dW_temp grads["db" + str(l + 1)] = db_temp return grads def update_parameters(parameters, grads, learning_rate): """ 更新参数。 """ L = len(parameters) // 2 for l in range(L): parameters["W" + str(l+1)] -= learning_rate * grads["dW" + str(l+1)] parameters["b" + str(l+1)] -= learning_rate * grads["db" + str(l+1)] return parameters ``` --- ### 使用 PyTorch 构建模型并在测试集上验证其性能的最佳实践 #### 1. 模型构建 在 PyTorch 中，可以通过定义一个继承自 `torch.nn.Module` 的类来构建模型。以下是一个简单的 CNN 模型示例： ```python import torch import torch.nn as nn import torch.optim as optim class SimpleCNN(nn.Module): def __init__(self): super(SimpleCNN, self).__init__() self.conv1 = nn.Conv2d(3, 32, kernel_size=3, stride=1, padding=1) self.relu = nn.ReLU() self.pool = nn.MaxPool2d(kernel_size=2, stride=2) self.fc1 = nn.Linear(32 * 16 * 16, 10) def forward(self, x): x = self.pool(self.relu(self.conv1(x))) x = x.view(-1, 32 * 16 * 16) # 展平 x = self.fc1(x) return x ``` #### 2. 测试模型性能 在测试集上验证模型性能的最佳实践包括以下几个方面： - **加载模型和测试数据**：确保模型和测试数据都加载到相同的设备（CPU 或 GPU）上。 - **禁用梯度计算**：在测试阶段不需要计算梯度，因此可以使用 `torch.no_grad()` 来节省内存。 - **评估模式**：在测试阶段需要将模型设置为评估模式，以关闭 Dropout 和 BatchNorm 等训练专用操作。 以下是测试模型性能的代码示例： ```python def test_model(model, test_loader, device): model.eval() # 设置为评估模式 correct = 0 total = 0 with torch.no_grad(): # 禁用梯度计算 for images, labels in test_loader: images, labels = images.to(device), labels.to(device) outputs = model(images) _, predicted = torch.max(outputs.data, 1) total += labels.size(0) correct += (predicted == labels).sum().item() accuracy = 100 * correct / total print(f"Test Accuracy: {accuracy}%") return accuracy ``` --- ###