### 使用Python和NumPy实现线性回归算法及MSE损失函数 以下是基于Python和NumPy实现线性回归算法以及均方误差（Mean Squared Error, MSE）损失函数的方法。此方法适用于简单的单变量或多变量线性回归问题。 #### 实现线性回归模型 线性回归的目标是最小化预测值与真实值之间的差异。可以通过正规方程法求解权重向量 \( \theta \)，其公式如下： \[ \theta = (X^T X)^{-1} X^T y \] 其中，\( X \) 是输入特征矩阵，\( y \) 是目标值向量。 下面是具体的代码实现： ```python import numpy as np class LinearRegression: def __init__(self): self.coefficients = None def fit(self, X, y): """ 训练线性回归模型。 参数: X: 特征矩阵 (形状为 n_samples x n_features) y: 目标值向量 (形状为 n_samples,) """ # 添加偏置项列 X_b = np.c_[np.ones((X.shape[0], 1)), X] # 正规方程求解 self.coefficients = np.linalg.inv(X_b.T.dot(X_b)).dot(X_b.T).dot(y) def predict(self, X): """ 预测新数据的输出。 参数: X: 新的特征矩阵 返回: 预测值数组 """ if self.coefficients is None: raise ValueError("Model not trained yet.") X_b = np.c_[np.ones((X.shape[0], 1)), X] return X_b.dot(self.coefficients) ``` --- #### 实现MSE损失函数 均方误差（MSE）用于衡量预测值与真实值之间的平均平方差，定义如下： \[ MSE = \frac{1}{n} \sum_{i=1}^{n}(y_i - \hat{y}_i)^2 \] 以下是其实现代码： ```python def mean_squared_error(y_true, y_pred): """ 计算均方误差（MSE）。 参数: y_true: 真实值数组 y_pred: 预测值数组 返回: 均方误差值 """ error = np.mean((y_true - y_pred)**2) return error ``` --- #### 数据加载与预处理 为了训练模型，需要准备房价数据集并对数据进行必要的预处理，例如标准化或归一化。以下是一个简单示例： ```python from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler # 加载数据集（此处以波士顿房价为例） data_url = "http://lib.stat.cmu.edu/datasets/boston" raw_df = pd.read_csv(data_url, sep="\s+", skiprows=22, header=None) data = np.hstack([raw_df.values[::2, :], raw_df.values[1::2, :2]]) target = raw_df.values[1::2, 2] # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split( data, target, test_size=0.2, random_state=42 ) # 标准化特征 scaler = StandardScaler() X_train_scaled = scaler.fit_transform(X_train) X_test_scaled = scaler.transform(X_test) ``` --- #### 模型训练与评估 使用上述实现的线性回归类和MSE函数完成模型训练与性能评估。 ```python # 初始化并训练模型 model = LinearRegression() model.fit(X_train_scaled, y_train) # 进行预测 y_train_pred = model.predict(X_train_scaled) y_test_pred = model.predict(X_test_scaled) # 计算MSE train_mse = mean_squared_error(y_train, y_train_pred) test_mse = mean_squared_error(y_test, y_test_pred) print(f"Training Set MSE: {train_mse}") print(f"Testing Set MSE: {test_mse}") ``` 以上实现了完整的线性回归建模流程，并提供了详细的代码说明[^1]。 --- ###