### 简单线性回归的详细步骤 简单线性回归的目标是找到一条直线 \( y = wx + b \)，其中 \( w \) 是斜率，\( b \) 是截距，使得这条直线能够最好地拟合给定的数据点。以下是使用 Python 实现简单线性回归的具体步骤： #### 1. 准备数据 首先需要准备训练数据和对应的标签。这些数据可以是从文件读取的实际数据，也可以是手动定义的小型数据集。 ```python import numpy as np # 定义训练数据 train_data = np.array([1, 2, 3]) train_label = np.array([3, 5, 7]) # 定义测试数据 test_data = np.array([4]) test_label = np.array([9]) ``` #### 2. 初始化参数 初始化权重 \( w \) 和偏置 \( b \)，并设定迭代次数和学习率。 ```python # 初始化权重和偏置 w = 1 b = 0 # 设定迭代次数和学习率 iter = 1000 lamb = 0.01 ``` #### 3. 定义模型 定义一个函数表示线性回归模型 \( f(x) = wx + b \)。 ```python def f(x): return w * x + b ``` #### 4. 定义损失函数 为了衡量模型预测值与真实值之间的差距，定义均方误差作为损失函数。 ```python def L(data, label): return (f(data) - label) ** 2 def Loss(x, y): loss = 0 k = len(x) for i in range(k): loss += L(x[i], y[i]) return loss / k # 平均损失 ``` #### 5. 计算梯度 通过计算损失函数关于 \( w \) 和 \( b \) 的导数，得到更新这两个参数所需的梯度。 ```python def gradient(w, b, x, y): dw, db = 0, 0 k = len(x) for i in range(k): dw += 2 * (w * x[i] + b - y[i]) * x[i] db += 2 * (w * x[i] + b - y[i]) return dw / k, db / k # 平均梯度 ``` #### 6. 更新参数 使用梯度下降法不断更新 \( w \) 和 \( b \)，直到达到预定的迭代次数。 ```python for i in range(iter): dw, db = gradient(w, b, train_data, train_label) w -= lamb * dw b -= lamb * db ``` #### 7. 可视化结果 绘制原始数据点以及最终拟合的直线，验证模型的效果。 ```python import matplotlib.pyplot as plt plt.grid() plt.scatter(train_data, train_label, c='blue', label='Training Data') plt.scatter(test_data, test_label, c='red', label='Test Data') x = np.linspace(0, 5, 1000) y = f(x) plt.plot(x, y, 'k-', label='Fitted Line') plt.xlim([0, 5]) plt.ylim([0, 10]) plt.legend() plt.show() print('Learned parameters:') print('w=', w) print('b=', b) ``` --- ### 结果解释 经过多次迭代后，程序会输出学到的参数 \( w \) 和 \( b \)[^4]。如果一切正常，这些参数应该接近于理想值（例如在本例中为 \( w=2, b=1 \)）。此外还可以引入评价指标如均方误差(MSE)或决定系数(R²)来量化模型的表现[^5]。 --- ###