# Python实现简易感知机模型完成手写数字二分类任务 ## 问题解构与方案推演 手写数字识别是机器学习的经典入门问题，感知机作为最简单的神经网络模型，非常适合用于理解二分类任务的基本原理。实现过程需要解决以下几个核心问题： 1. **数据准备**：获取手写数字数据集并进行预处理 2. **模型定义**：理解感知机的数学原理并实现前向传播 3. **训练策略**：设计权重更新规则和训练循环 4. **性能评估**：验证模型在测试集上的表现 下面将基于sklearn的digits数据集，详细展示从零实现感知机完成手写数字二分类的全过程。 ## 完整代码实现 ### 1. 环境准备与数据加载 ```python import numpy as np from sklearn.datasets import load_digits import matplotlib.pyplot as plt # 加载手写数字数据集 digits = load_digits() # 数据预处理：将0-4分类为-1，5-9分类为1 features = digits['data'] # 形状：(1797, 64) labels = (digits['target'] > 4).astype(int) # 大于4的转换为1，否则为0 labels[labels == 0] = -1 # 将0转换为-1 print(f"特征矩阵形状: {features.shape}") print(f"标签数组形状: {labels.shape}") print(f"类别分布: {np.unique(labels, return_counts=True)}") ``` 数据集说明[ref_1]： - `images`: 8×8像素的图像矩阵，共1797个样本 - `data`: 将8×8矩阵展平为64维特征向量 - `target`: 每个图像对应的真实数字标签(0-9) - 我们将任务简化为二分类：识别数字是否大于4 ### 2. 数据划分与预处理 ```python # 随机打乱数据 shuffle_indices = np.random.permutation(features.shape[0]) features = features[shuffle_indices] labels = labels[shuffle_indices] # 按8:2比例划分训练集和测试集 train_num = int(features.shape[0] * 0.8) train_datas, train_labels = features[:train_num, :], labels[:train_num] test_datas, test_labels = features[train_num:, :], labels[train_num:] print(f"训练集形状: {train_datas.shape}, {train_labels.shape}") print(f"测试集形状: {test_datas.shape}, {test_labels.shape}") ``` ### 3. 超参数设置与模型初始化 ```python # 超参数配置 BATCH_SIZE = 64 # 批处理大小 LEARNING_RATE = 0.01 # 学习率 EPOCHS = 20 # 训练轮数 # 模型参数初始化 w = np.zeros((train_datas.shape[1],)) # 权重向量，形状：(64,) b = 0 # 偏置项 acc_list = [] # 记录准确率变化 ``` ### 4. 核心训练逻辑实现 ```python def perceptron_train(w, b, train_datas, train_labels, epochs, batch_size, lr): """ 感知机训练函数 """ train_num = train_datas.shape[0] for epoch in range(epochs): cur = 0 while cur < train_num: # 获取当前批次数据 current_data = train_datas[cur:cur + batch_size, :] current_labels = train_labels[cur:cur + batch_size] # 前向传播计算预测值 y_hat = np.matmul(current_data, w) + b # 符号函数激活：y_hat >= 0 输出1，否则输出-1 y_pred = np.where(y_hat >= 0, 1, -1) # 找出分类错误的样本 misclassified = y_pred != current_labels if np.any(misclassified): # 权重更新：w = w + η * y_i * x_i