### CART算法的Python实现 CART（Classification and Regression Trees）是一种经典的决策树算法，既可用于分类也可用于回归。以下是基于`scikit-learn`库中的`DecisionTreeClassifier`和`DecisionTreeRegressor`类来分别展示分类和回归任务的具体实现。 #### 使用CART算法进行分类的任务示例 以下是一个简单的分类任务示例，使用的是著名的鸢尾花（Iris）数据集： ```python from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.tree import DecisionTreeClassifier import pandas as pd # 加载数据集 data = load_iris() X = data.data y = data.target # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # 初始化并拟合模型 clf = DecisionTreeClassifier(criterion='gini', max_depth=None, random_state=42) # 默认采用Gini指数作为分裂标准 clf.fit(X_train, y_train) # 预测 predictions = clf.predict(X_test) # 输出预测结果与真实标签对比 results = pd.DataFrame({'Actual': y_test, 'Predicted': predictions}) print(results) ``` 上述代码展示了如何利用`DecisionTreeClassifier`构建一个分类器，并评估其性能[^1]。 --- #### 使用CART算法进行回归的任务示例 对于回归问题，可以使用`DecisionTreeRegressor`类。这里我们以波士顿房价数据为例演示回归任务： ```python from sklearn.datasets import load_boston from sklearn.model_selection import train_test_split from sklearn.tree import DecisionTreeRegressor import numpy as np # 加载数据集 boston = load_boston() X = boston.data y = boston.target # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # 初始化并拟合模型 regressor = DecisionTreeRegressor(criterion='mse', max_depth=None, random_state=42) # 默认采用均方误差(MSE)作为分裂标准 regressor.fit(X_train, y_train) # 预测 predictions = regressor.predict(X_test) # 计算平均绝对误差 mae = np.mean(np.abs(predictions - y_test)) print(f'Mean Absolute Error: {mae}') ``` 此代码片段说明了如何应用`DecisionTreeRegressor`完成回归分析任务[^1]。 --- #### 关于CART算法的核心概念补充 CART算法通过递归地划分特征空间来构建一棵二叉树。在每次节点分裂时，会选取使目标函数最优化的特征及其阈值。具体来说，在分类任务中通常选用基尼系数(Gini Index)[^2]；而在回归任务中则倾向于最小化残差平方和(Sum of Squared Errors)[^3]。 --- 问题