### 实现回归分析功能的Python类 下面提供了一个自定义的Python类 `CustomRegression` 的实现，该类可以完成简单的线性回归分析任务。此实现参考了 Scikit-Learn 库中的方法设计[^3]，并结合了机器学习基础理论[^4]。 #### 类的设计思路 1. **初始化**：设置模型参数，默认情况下不带正则化项。 2. **拟合方法 (`fit`)**：通过最小二乘法计算权重系数和截距。 3. **预测方法 (`predict`)**：基于已训练好的模型进行预测。 4. **属性访问**：允许用户查看模型的权重和截距。 以下是具体的代码实现： ```python import numpy as np class CustomRegression: """ 自定义线性回归类，支持简单的一元或多维线性回归。 """ def __init__(self, fit_intercept=True): """ 初始化模型参数。 参数: fit_intercept (bool): 是否计算截距项，默认为True。 """ self.fit_intercept = fit_intercept self.coefficients_ = None # 权重向量 self.intercept_ = None # 截距项 def fit(self, X, y): """ 使用最小二乘法拟合线性回归模型。 参数: X (numpy.ndarray): 特征矩阵，形状为(n_samples, n_features)。 y (numpy.ndarray): 目标值数组，形状为(n_samples,)。 """ if self.fit_intercept: X = np.c_[np.ones((X.shape[0], 1)), X] # 添加偏置列 # 计算权重向量 w = (X^T * X)^(-1) * X^T * y try: coefficients = np.linalg.inv(X.T @ X) @ X.T @ y except np.linalg.LinAlgError: raise ValueError("无法求解逆矩阵，请检查输入数据是否有冗余特征") if self.fit_intercept: self.intercept_ = coefficients[0] self.coefficients_ = coefficients[1:] else: self.intercept_ = 0 self.coefficients_ = coefficients def predict(self, X): """ 对新的数据进行预测。 参数: X (numpy.ndarray): 新的数据特征矩阵，形状为(m_samples, n_features)。 返回: numpy.ndarray: 预测的目标值数组，形状为(m_samples,)。 """ if self.coefficients_ is None or self.intercept_ is None: raise RuntimeError("模型尚未训练，请先调用fit方法") return X @ self.coefficients_ + self.intercept_ # 示例使用 if __name__ == "__main__": # 数据准备 X = np.array([[1, 1], [1, 2], [2, 2], [2, 3]]) y = np.dot(X, np.array([1, 2])) + 3 # 创建模型实例 model = CustomRegression(fit_intercept=True) # 训练模型 model.fit(X, y) # 查看模型参数 print('Coefficients:', model.coefficients_) print('Intercept:', model.intercept_) # 预测新数据 new_X = np.array([[3, 5]]) prediction = model.predict(new_X) print('Prediction:', prediction) ``` --- ### 关键点解析 1. **最小二乘法** 上述代码的核心在于通过最小二乘法估计模型的权重系数 \(w\) 和截距 \(b\)[^3]。公式如下： \[ w = (X^\top X)^{-1} X^\top y \] 2. **偏置处理** 如果设置了 `fit_intercept=True`，会在特征矩阵 \(X\) 中自动添加一列为全1的偏置项，以便计算截距[^4]。 3. **异常捕获** 当特征矩阵存在共线性或其他数值不稳定情况时，可能会导致矩阵不可逆。此时会抛出错误提示用户检查数据质量。 --- ###