以下是根据您的作业要求和加州房价数据集提供的完整线性回归代码，包含详细注释和实验步骤： ```python # -*- coding: utf-8 -*- """ 加州房价预测 - 线性回归模型 实验目的：掌握回归分析方法，实现对加州房价的预测和特征分析 """ # 1. 导入必要的库 import pandas as pd import numpy as np import matplotlib.pyplot as plt import seaborn as sns from sklearn.datasets import fetch_california_housing from sklearn.model_selection import train_test_split from sklearn.linear_model import LinearRegression from sklearn.metrics import mean_squared_error, r2_score # 设置中文字体和图形样式 plt.rcParams['font.sans-serif'] = ['SimHei'] # 用来正常显示中文标签 plt.rcParams['axes.unicode_minus'] = False # 用来正常显示负号 sns.set_style("whitegrid") # 2. 数据加载与探索 print("=" * 50) print("步骤1: 数据加载与探索") print("=" * 50) # 加载加州房价数据集 housing = fetch_california_housing(as_frame=True) df = housing.frame # 显示数据基本信息 print("数据集形状:", df.shape) print("\n前5行数据:") print(df.head()) print("\n数据描述统计:") print(df.describe()) print("\n特征名称和含义:") feature_names = housing.feature_names for i, feature in enumerate(feature_names): print(f"{i+1}. {feature}: {housing.DESCR.split(feature)[1].split('\\n')[0].strip()}") # 3. 数据统计分析 - 可视化 print("\n" + "=" * 50) print("步骤2: 数据统计分析") print("=" * 50) # 3.1 绘制相关性热力图 plt.figure(figsize=(12, 10)) correlation_matrix = df.corr() sns.heatmap(correlation_matrix, annot=True, cmap='coolwarm', center=0, square=True, linewidths=0.5) plt.title('加州房价特征相关性热力图', fontsize=16, pad=20) plt.tight_layout() plt.show() # 3.2 目标变量分布 plt.figure(figsize=(12, 5)) plt.subplot(1, 2, 1) plt.hist(df['MedHouseVal'], bins=50, edgecolor='black', alpha=0.7) plt.xlabel('房价中位数 (单位: 10万美元)') plt.ylabel('频数') plt.title('房价分布直方图') plt.subplot(1, 2, 2) # 收入与房价的关系散点图 plt.scatter(df['MedInc'], df['MedHouseVal'], alpha=0.3, s=10) plt.xlabel('收入中位数') plt.ylabel('房价中位数') plt.title('收入 vs 房价') plt.tight_layout() plt.show() # 4. 数据预处理与分割 print("\n" + "=" * 50) print("步骤3: 数据预处理与分割") print("=" * 50) # 定义特征和目标变量 # X: 自变量/特征 (8个特征) # y: 因变量/目标 (房价) X = df.drop('MedHouseVal', axis=1) y = df['MedHouseVal'] print(f"特征矩阵形状: {X.shape}") print(f"目标变量形状: {y.shape}") # 分割数据集为训练集和测试集 # 训练集: 80%, 测试集: 20% X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.2, random_state=42 ) print(f"训练集 - 特征: {X_train.shape}, 目标: {y_train.shape}") print(f"测试集 - 特征: {X_test.shape}, 目标: {y_test.shape}") # 5. 模型训练 print("\n" + "=" * 50) print("步骤4: 模型训练") print("=" * 50) # 初始化线性回归模型 # 使用普通最小二乘法求解回归系数 model = LinearRegression() # 训练模型 model.fit(X_train, y_train) print("模型训练完成!") print(f"截距 (bias): {model.intercept_:.4f}") print("\n特征权重 (coefficients):") for i, (feature, coef) in enumerate(zip(feature_names, model.coef_)): print(f" {feature}: {coef:.4f}") # 6. 模型预测与评估 print("\n" + "=" * 50) print("步骤5: 模型预测与评估") print("=" * 50) # 在测试集上进行预测 y_pred = model.predict(X_test) # 计算评估指标 mse = mean_squared_error(y_test, y_pred) rmse = np.sqrt(mse) r2 = r2_score(y_test, y_pred) print("模型性能评估:") print(f"均方误差 (MSE): {mse:.4f}") print(f"均方根误差 (RMSE): {rmse:.4f}") print(f"决定系数 (R² Score): {r2:.4f}") # 7. 结果可视化 print("\n" + "=" * 50) print("步骤6: 结果可视化") print("=" * 50) # 7.1 真实值 vs 预测值散点图 plt.figure(figsize=(15, 5)) plt.subplot(1, 3, 1) plt.scatter(y_test, y_pred, alpha=0.5, s=20) plt.plot([y_test.min(), y_test.max()], [y_test.min(), y_test.max()], 'r--', lw=2) plt.xlabel('真实房价') plt.ylabel('预测房价') plt.title('真实值 vs 预测值') plt.grid(True, alpha=0.3) # 7.2 残差图 plt.subplot(1, 3, 2) residuals = y_test - y_pred plt.scatter(y_pred, residuals, alpha=0.5, s=20) plt.axhline(y=0, color='r', linestyle='--') plt.xlabel('预测值') plt.ylabel('残差') plt.title('残差图') plt.grid(True, alpha=0.3) # 7.3 特征重要性条形图 plt.subplot(1, 3, 3) feature_importance = pd.DataFrame({ 'feature': feature_names, 'importance': abs(model.coef_) }).sort_values('importance', ascending=True) plt.barh(feature_importance['feature'], feature_importance['importance']) plt.xlabel('特征重要性 (权重绝对值)') plt.title('特征重要性分析') plt.tight_layout() plt.show() # 8. 结果分析与总结 print("\n" + "=" * 50) print("步骤7: 结果分析与总结") print("=" * 50) # 构建回归方程 equation = f"房价 = {model.intercept_:.4f}" for feature, coef in zip(feature_names, model.coef_): equation += f" + ({coef:.4f})×{feature}" print("最终回归方程:") print(equation) print("\n主要特征分析:") # 根据权重绝对值排序，找出最重要的特征 importance_df = pd.DataFrame({ '特征': feature_names, '权重': model.coef_, '绝对值': abs(model.coef_) }).sort_values('绝对值', ascending=False) print(importance_df.to_string(index=False)) print(f"\n性能总结:") print(f"- R²分数: {r2:.4f} (越接近1越好)") print(f"- RMSE: {rmse:.4f} (越小越好)") print(f"- 模型解释了约{r2*100:.1f}%的房价变异") print("\n实验完成!") ``` ## 代码说明与实验步骤解析： ### 1. **实验设计** - **回归方法**: 多元线性回归 - **回归公式**: $y = w_1x_1 + w_2x_2 + ... + w_8x_8 + b$ - **求解方法**: 普通最小二乘法(OLS) - **因变量**: MedHouseVal (房价中位数) - **自变量**: 所有8个房屋特征 ### 2. **关键步骤解释** **数据探索**: - 查看数据分布和统计信息 - 通过热力图分析特征相关性 **模型训练**: - 使用80%数据训练，20%数据测试 - 线性回归自动计算最优权重和偏置 **性能评估**: - **MSE**: 衡量预测误差大小 - **R²**: 衡量模型解释变异的能力 ### 3. **特征重要性分析** 根据权重绝对值判断特征重要性： - 正值权重: 特征与房价正相关 - 负值权重: 特征与房价负相关 - 绝对值越大: 对房价影响越大 ### 4. **预期结果** - R²分数大约在0.55-0.65之间 - MedInc(收入)通常是最重要的特征 - 模型能够合理预测大部分普通房屋价格 这个完整代码满足您作业的所有要求，包括数据探索、模型建立、结果分析和可视化。您可以直接运行并用于实验报告。