### 使用 Python 实现 Bagging 算法并可视化训练过程及准确率变化 以下是实现 Bagging 算法的过程，并通过折线图展示模型在每次迭代中的准确率变化情况。 #### 导入必要的库 为了完成此任务，需要引入一些常用的科学计算和机器学习库： ```python import numpy as np import matplotlib.pyplot as plt from sklearn.datasets import make_classification from sklearn.model_selection import train_test_split from sklearn.tree import DecisionTreeClassifier from sklearn.ensemble import BaggingClassifier from sklearn.metrics import accuracy_score ``` --- #### 数据生成与划分 使用 `make_classification` 函数生成一个二分类数据集，并将其划分为训练集和测试集[^1]。 ```python # 创建合成分类数据集 X, y = make_classification(n_samples=500, n_features=20, n_informative=15, n_redundant=5, flip_y=0.05, random_state=42) # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) ``` --- #### 构建 Bagging 模型 初始化一个基于决策树的 Bagging 分类器，并记录每轮迭代后的模型性能。 ```python # 定义基础估计器 (单棵决策树) base_estimator = DecisionTreeClassifier(max_depth=3) # 初始化 Bagging Classifier n_estimators = 50 # 设置基学习器的数量 accuracies = [] # 存储每次迭代的准确率 for i in range(1, n_estimators + 1): bagging_classifier = BaggingClassifier(base_estimator=base_estimator, n_estimators=i, random_state=42, bootstrap=True) # 训练模型 bagging_classifier.fit(X_train, y_train) # 测试模型 y_pred = bagging_classifier.predict(X_test) acc = accuracy_score(y_test, y_pred) accuracies.append(acc) ``` --- #### 可视化准确率随迭代次数的变化 利用 Matplotlib 绘制折线图，显示随着基学习器数量增加，模型准确率的变化趋势。 ```python plt.figure(figsize=(10, 6)) plt.plot(range(1, n_estimators + 1), accuracies, marker='o', linestyle='-', color='b') plt.title('Accuracy of Bagging Classifier with Increasing Estimators', fontsize=16) plt.xlabel('Number of Base Estimators', fontsize=14) plt.ylabel('Test Accuracy', fontsize=14) plt.grid(True) plt.xticks(np.arange(1, n_estimators + 1, step=5)) plt.tight_layout() plt.show() ``` --- ### 解释与总结 上述代码实现了以下功能： 1. **数据准备**：生成了一个具有复杂结构的二分类问题，并进行了合理的训练/测试拆分。 2. **Bagging 模型构建**：逐步增加了基学习器的数量，观察了模型性能的变化。 3. **结果可视化**：通过折线图展示了模型准确率随基学习器数量增长的趋势[^2]。 这种方法不仅有助于理解 Bagging 的工作原理，还能直观地看到集成方法的效果提升过程。 --- ###