### 决策树在房价预测和葡萄酒分类中的应用 决策树是一种强大的监督学习算法，可以用于分类和回归任务。它通过递归地将数据划分为不同的子集，直至达到特定条件[^1]。以下是一个综合练习题，结合Python的`scikit-learn`库，使用决策树解决房价预测问题和葡萄酒分类问题。 --- #### 练习题 1：房价预测（回归任务） 目标是使用决策树回归模型预测房屋价格。以下是具体步骤： 1. **加载数据集** 使用`sklearn.datasets`模块中的`load_boston`数据集（或替代数据集如`fetch_california_housing`），该数据集包含影响房价的各种特征。 2. **数据预处理** 将数据集划分为训练集和测试集，并进行标准化处理。 3. **构建决策树回归模型** 使用`DecisionTreeRegressor`类创建决策树模型。 4. **模型评估** 使用均方误差（MSE）或决定系数（R²）评估模型性能。 代码示例如下： ```python from sklearn.datasets import load_boston from sklearn.model_selection import train_test_split from sklearn.tree import DecisionTreeRegressor from sklearn.metrics import mean_squared_error, r2_score # 加载数据集 data = load_boston() X, y = data.data, data.target # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # 创建决策树回归模型 regressor = DecisionTreeRegressor(max_depth=5, random_state=42) regressor.fit(X_train, y_train) # 预测 y_pred = regressor.predict(X_test) # 模型评估 mse = mean_squared_error(y_test, y_pred) r2 = r2_score(y_test, y_pred) print(f"均方误差 (MSE): {mse}") print(f"决定系数 (R²): {r2}") ``` --- #### 练习题 2：葡萄酒分类（分类任务） 目标是使用决策树分类模型对葡萄酒进行分类。以下是具体步骤： 1. **加载数据集** 使用`sklearn.datasets`模块中的`load_wine`数据集，该数据集包含不同种类葡萄酒的化学属性。 2. **数据预处理** 将数据集划分为训练集和测试集，并进行标准化处理。 3. **构建决策树分类模型** 使用`DecisionTreeClassifier`类创建决策树模型。 4. **模型评估** 使用准确率、混淆矩阵等指标评估模型性能。 代码示例如下： ```python from sklearn.datasets import load_wine from sklearn.model_selection import train_test_split from sklearn.tree import DecisionTreeClassifier from sklearn.metrics import accuracy_score, confusion_matrix # 加载数据集 data = load_wine() X, y = data.data, data.target # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # 创建决策树分类模型 classifier = DecisionTreeClassifier(max_depth=5, random_state=42) classifier.fit(X_train, y_train) # 预测 y_pred = classifier.predict(X_test) # 模型评估 accuracy = accuracy_score(y_test, y_pred) conf_matrix = confusion_matrix(y_test, y_pred) print(f"准确率: {accuracy}") print("混淆矩阵:") print(conf_matrix) ``` --- #### 参数调整与优化 为了提高模型性能，可以尝试调整以下参数： - `max_depth`：控制树的最大深度，避免过拟合。 - `min_samples_split`：控制节点分裂所需的最小样本数。 - `min_samples_leaf`：控制叶节点所需的最小样本数。 通过网格搜索（`GridSearchCV`）或随机搜索（`RandomizedSearchCV`），可以自动找到最佳参数组合。 ---