当Scikit - Learn处理糖尿病数据集时R²值低，即模型拟合效果一般，可从以下几个方面改进模型： - **数据预处理**：引用[2]中仅进行了标准化处理，可尝试其他预处理技术。例如，对特征进行多项式转换，以捕捉特征间的非线性关系。在Scikit - Learn中可使用`PolynomialFeatures`类实现： ```python from sklearn.datasets import load_diabetes from sklearn.pipeline import Pipeline from sklearn.preprocessing import StandardScaler, PolynomialFeatures from sklearn.linear_model import LinearRegression from sklearn.model_selection import train_test_split from sklearn.metrics import mean_squared_error, r2_score # 加载糖尿病数据集 diabetes = load_diabetes() X = diabetes.data y = diabetes.target # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) pipeline = Pipeline([ ('poly', PolynomialFeatures(degree=2)), ('scaler', StandardScaler()), ('model', LinearRegression()) ]) # 在训练集上训练模型 pipeline.fit(X_train, y_train) # 在测试集上进行预测 y_pred = pipeline.predict(X_test) # 计算决定系数（R² 分数）来评估模型拟合优度 r2 = r2_score(y_test, y_pred) print("决定系数（R² 分数）:", r2) ``` - **模型选择与调优**：引用[2]中使用的是线性回归模型，可尝试其他更复杂的模型，如随机森林、梯度提升树等。同时，对模型的超参数进行调优。以随机森林为例： ```python from sklearn.datasets import load_diabetes from sklearn.pipeline import Pipeline from sklearn.preprocessing import StandardScaler from sklearn.ensemble import RandomForestRegressor from sklearn.model_selection import train_test_split, GridSearchCV from sklearn.metrics import r2_score # 加载糖尿病数据集 diabetes = load_diabetes() X = diabetes.data y = diabetes.target # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) pipeline = Pipeline([ ('scaler', StandardScaler()), ('model', RandomForestRegressor()) ]) # 定义超参数搜索空间 param_grid = { 'model__n_estimators': [50, 100, 200], 'model__max_depth': [None, 10, 20, 30] } # 使用网格搜索进行超参数调优 grid_search = GridSearchCV(pipeline, param_grid, cv=5) grid_search.fit(X_train, y_train) # 获取最佳模型 best_model = grid_search.best_estimator_ # 在测试集上进行预测 y_pred = best_model.predict(X_test) # 计算决定系数（R² 分数）来评估模型拟合优度 r2 = r2_score(y_test, y_pred) print("决定系数（R² 分数）:", r2) ``` - **特征工程**：可参考引用[3]中特征重要性的方法，筛选出对目标变量影响较大的特征，去除噪声特征。 ```python from sklearn.datasets import load_diabetes from sklearn.ensemble import RandomForestRegressor import numpy as np # 加载糖尿病数据集 diabetes = load_diabetes() X = diabetes.data y = diabetes.target model = RandomForestRegressor() model.fit(X, y) importances = model.feature_importances_ sorted_idx = importances.argsort()[::-1] # 选择重要性排名前几的特征 top_features = sorted_idx[:5] X_new = X[:, top_features] ``` - **处理数据不平衡（若适用）**：尽管糖尿病数据集是回归问题，一般不存在类别不平衡问题，但如果目标变量存在分布不均的情况，可考虑类似引用[3]中类别不平衡处理的思路，对数据进行适当的加权处理。