### 5折交叉验证的实现代码 以下是基于 Python 的 5 折交叉验证的具体实现代码示例，适用于机器学习模型评估： ```python from sklearn.model_selection import KFold, cross_val_score from sklearn.datasets import load_iris from sklearn.tree import DecisionTreeClassifier # 加载数据集 data = load_iris() X, y = data.data, data.target # 定义模型 model = DecisionTreeClassifier() # 使用KFold定义5折交叉验证 kf = KFold(n_splits=5, shuffle=True, random_state=42) # 计算交叉验证分数 scores = cross_val_score(model, X, y, cv=kf) print(f"每折的准确率: {scores}") print(f"平均准确率: {scores.mean():.4f}") # 输出平均准确率 ``` 上述代码实现了标准的 5 折交叉验证流程。通过 `KFold` 类指定折叠数量为 5，并设置随机种子以确保结果可重复[^1]。 如果需要更复杂的控制，比如分层采样（Stratified Sampling），可以替换 `KFold` 为 `StratifiedKFold` 来保持类别分布的一致性[^3]： ```python from sklearn.model_selection import StratifiedKFold # 使用StratifiedKFold定义5折交叉验证 skf = StratifiedKFold(n_splits=5, shuffle=True, random_state=42) # 计算交叉验证分数 stratified_scores = cross_val_score(model, X, y, cv=skf) print(f"分层每折的准确率: {stratified_scores}") print(f"分层平均准确率: {stratified_scores.mean():.4f}") # 输出分层平均准确率 ``` 此代码片段展示了如何使用分层 k 折交叉验证来处理不平衡的数据集，从而提高模型评估的可靠性[^2]。 --- ### 关于嵌套交叉验证 为了进一步提升模型选择和超参数调优的效果，还可以采用嵌套交叉验证的方法。这种方法不仅能够评估模型性能，还能有效防止过拟合[^4]。以下是一个简单的嵌套交叉验证示例： ```python from sklearn.model_selection import GridSearchCV, cross_val_score from sklearn.svm import SVC # 外部循环：用于估计模型性能 outer_cv = KFold(n_splits=5, shuffle=True, random_state=42) # 内部循环：用于超参数调整 inner_cv = KFold(n_splits=5, shuffle=True, random_state=42) param_grid = {'C': [0.1, 1, 10], 'kernel': ['linear', 'rbf']} nested_scores = [] for train_idx, test_idx in outer_cv.split(X): X_train, X_test = X[train_idx], X[test_idx] y_train, y_test = y[train_idx], y[test_idx] grid_search = GridSearchCV(SVC(), param_grid, cv=inner_cv) grid_search.fit(X_train, y_train) nested_scores.append(grid_search.score(X_test, y_test)) print(f"嵌套交叉验证每折的准确率: {nested_scores}") print(f"嵌套交叉验证平均准确率: {sum(nested_scores)/len(nested_scores):.4f}") ``` 这段代码演示了内外两层交叉验证的过程，其中内部循环负责超参数优化，外部循环则专注于模型性能评估。 ---