### 构建线性回归算法并应用到波士顿房价数据 #### 波士顿房价数据概述 波士顿房价数据集是一个经典的数据集，常用于研究回归问题。此数据集中包含目标变量（房价中位数）和多个预测变量（特征），这些特征可能会影响房价的变化[^4]。 #### 使用Python实现线性回归模型 以下是基于`scikit-learn`库的线性回归模型实现代码示例： ```python import numpy as np from sklearn.datasets import load_boston from sklearn.model_selection import train_test_split from sklearn.linear_model import LinearRegression from sklearn.metrics import mean_squared_error, r2_score # 加载波士顿房价数据集 boston = load_boston() X = boston.data # 特征矩阵 y = boston.target # 目标向量 # 将数据划分为训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) # 创建线性回归模型实例 model = LinearRegression() # 训练模型 model.fit(X_train, y_train) # 预测测试集的结果 y_pred = model.predict(X_test) # 输出评估指标 mse = mean_squared_error(y_test, y_pred) r2 = r2_score(y_test, y_pred) print(f"均方误差 (MSE): {mse:.2f}") print(f"决定系数 (R²): {r2:.2f}") ``` 上述代码实现了以下几个功能： 1. **加载数据**：利用`load_boston()`函数获取波士顿房价数据集。 2. **划分数据集**：通过`train_test_split()`将数据拆分为训练集和测试集。 3. **创建模型**：初始化`LinearRegression`类的对象以定义线性回归模型。 4. **训练模型**：调用`fit()`方法使模型适应训练数据。 5. **预测与评估**：使用测试集进行预测，并计算均方误差(MSE)和决定系数(R²)[^1]。 #### 岭回归的应用 为了进一步提升模型性能，可以考虑采用岭回归（Ridge Regression）。这是一种带有L2正则化的线性回归变体，能够有效缓解多重共线性问题[^3]。下面是对应的代码示例： ```python from sklearn.linear_model import Ridge # 初始化岭回归模型 ridge_model = Ridge(alpha=1.0) # 训练模型 ridge_model.fit(X_train, y_train) # 测试集预测 y_ridge_pred = ridge_model.predict(X_test) # 输出评价指标 ridge_mse = mean_squared_error(y_test, y_ridge_pred) ridge_r2 = r2_score(y_test, y_ridge_pred) print(f"岭回归均方误差 (MSE): {ridge_mse:.2f}") print(f"岭回归决定系数 (R²): {ridge_r2:.2f}") ``` 在此基础上调整超参数`alpha`可优化模型表现。 ---