表格类数据增强旨在扩充训练数据、提升模型泛化能力，是处理数据不平衡和过拟合问题的关键步骤[ref_3][ref_4]。以下是在Python中可实现的多种方法，结合具体示例代码进行说明。关键方法概览如下： | 方法类别 | 核心原理 | 适用场景 | Python库/函数 | | :--- | :--- | :--- | :--- | | **过采样** | 增加少数类样本数量 | 类别不平衡，样本稀少 | `imbalanced-learn`, `scikit-learn` | | **欠采样** | 减少多数类样本数量 | 类别不平衡，数据量大 | `imbalanced-learn`, `scikit-learn` | | **加噪声** | 向数值特征添加随机扰动 | 提升模型鲁棒性，防过拟合 | `numpy` | | **数值插值** | 在样本之间合成新样本 | 扩充样本，平滑决策边界 | `numpy` | | **值域变换** | 对数值特征进行缩放或变换 | 模拟数据分布变化 | `scikit-learn` | | **特征交叉** | 组合现有特征生成新特征 | 揭示特征间高阶交互作用 | `pandas` | ### 1. 过采样 (Oversampling) 这类方法通过复制或合成新样本来增加少数类的数据量。最经典的方法是**SMOTE**（Synthetic Minority Over-sampling Technique），它通过在少数类样本的特征空间中进行线性插值来生成合成样本，而不是简单复制[ref_3][ref_4]。 ```python # 使用 imbalanced-learn 库实现 SMOTE 过采样 import pandas as pd import numpy as np from sklearn.datasets import make_classification from imblearn.over_sampling import SMOTE # 1. 创建一个模拟的不平衡表格数据集 X, y = make_classification(n_samples=1000, n_features=5, n_informative=3, n_redundant=1, n_clusters_per_class=1, weights=[0.9], flip_y=0, random_state=42) df = pd.DataFrame(X, columns=[f'feature_{i}' for i in range(X.shape[1])]) df['target'] = y print(f"原始数据类别分布: \n{df['target'].value_counts()}") # 原始数据类别分布可能是 900:100 # 2. 应用SMOTE sm = SMOTE(random_state=42, sampling_strategy=0.5) # 将少数类样本提升至多数类的50% X_resampled, y_resampled = sm.fit_resample(df.drop('target', axis=1), df['target']) # 3. 查看增强后的分布 df_resampled = pd.DataFrame(X_resampled, columns=[f'feature_{i}' for i in range(X.shape[1])]) df_resampled['target'] = y_resampled print(f"增强后数据类别分布: \n{df_resampled['target'].value_counts()}") # 增强后分布可能变为 900:450 ``` ### 2. 欠采样 (Undersampling) 这类方法通过减少多数类样本的数量来平衡数据集。常见的方法有**RandomUnderSampler**（随机欠采样）和**Tomek Links**（移除边界附近的多数组样本）。需注意可能造成信息丢失[ref_3]。 ```python # 使用 imbalanced-learn 库实现随机欠采样 from imblearn.under_sampling import RandomUnderSampler # 使用前面创建的 df rus = RandomUnderSampler(random_state=42, sampling_strategy=0.5) # 将多数类样本降至少数类的2倍 X_undersampled, y_undersampled = rus.fit_resample(df.drop('target', axis=1), df['target']) df_undersampled = pd.DataFrame(X_undersampled, columns=df.columns[:-1]) df_undersampled['target'] = y_undersampled print(f"欠采样后数据类别分布: \n{df_undersampled['target'].value_counts()}") # 分布可能变为 200:100 ``` ### 3. 加噪声 (Adding Noise) 向数值特征中添加小幅度随机扰动，模拟测量误差或数据微小变化，可以有效提升模型的鲁棒性[ref_3]。 ```python def add_gaussian_noise(df, columns, noise_level=0.01): """ 向指定数值列添加高斯噪声。 参数: df: pandas DataFrame columns: 需要添加噪声的列名列表 noise_level: 噪声的标准差，相对于特征标准差的比率 """ df_noised = df.copy() for col in columns: if col in df.columns: std = df[col].std() # 生成与数据形状相同的随机噪声 noise = np.random.normal(loc=0.0, scale=noise_level*std, size=len(df)) df_noised[col] = df[col] + noise return df_noised # 示例：对 feature_0 和 feature_1 列添加噪声 noised_df = add_gaussian_noise(df, columns=['feature_0', 'feature_1'], noise_level=0.05) print("原始 feature_0 前5个值：", df['feature_0'].head().values) print("加噪后 feature_0 前5个值：", noised_df['feature_0'].head().values) ``` ### 4. 数值插值 (Interpolation) 在特征空间中，通过线性插值在两个或多个真实样本之间创建新样本。这是SMOTE方法的理论基础，也可以独立使用。 ```python def interpolate_between_samples(df, label_col, target_label, n_samples=100): """ 在指定类别的样本间进行插值，生成新样本。 参数: df: 原始DataFrame label_col: 标签列名 target_label: 需要扩充的类别标签 n_samples: 需要生成的合成样本数量 """ # 获取目标类别的所有样本 target_samples = df[df[label_col] == target_label].drop(label_col, axis=1).values num_existing, num_features = target_samples.shape if num_existing < 2: return df # 如果样本少于2个，无法插值 synthetic_samples = [] for _ in range(n_samples): # 随机选择两个不同的样本 idx1, idx2 = np.random.choice(num_existing, size=2, replace=False) sample1, sample2 = target_samples[idx1], target_samples[idx2] # 生成一个0到1之间的随机插值系数 alpha = np.random.uniform(0, 1) # 线性插值生成新样本 new_sample = sample1 * alpha + sample2 * (1 - alpha) synthetic_samples.append(new_sample) # 将新样本转换为DataFrame并附加标签 synthetic_df = pd.DataFrame(synthetic_samples, columns=df.columns.drop(label_col)) synthetic_df[label_col] = target_label # 合并原数据和新数据 return pd.concat([df, synthetic_df], ignore_index=True) # 示例：为类别1的样本生成50个插值样本 interpolated_df = interpolate_between_samples(df, label_col='target', target_label=1, n_samples=50) print(f"插值增强后，类别1的样本数量: {len(interpolated_df[interpolated_df['target']==1])}") ``` ### 5. 值域变换 (Value Scaling/Transformation) 通过对数值特征进行缩放或非线性变换（如对数变换、归一化），可以创造数据分布略有不同的“新”样本，有助于模型学习到更广泛的输入空间。 ```python from sklearn.preprocessing import MinMaxScaler, StandardScaler import copy def scaling_augmentation(df, columns, scaler_type='mix'): """ 通过缩放变换进行数据增强。 参数: scaler_type: 'minmax' 或 'standard' 或 'mix' (混合) """ augmented_dfs = [] df_base = df.copy() for col in columns: if col not in df.columns: continue # 使用不同的缩放器创建变体 if scaler_type in ['minmax', 'mix']: scaler = MinMaxScaler() df_minmax = df_base.copy() # 注意：在生产环境中，应仅在训练集上拟合缩放器，然后变换训练和验证集 df_minmax[col] = scaler.fit_transform(df[[col]]) df_minmax['augmentation_note'] = f'minmax_scaled_{col}' augmented_dfs.append(df_minmax) if scaler_type in ['standard', 'mix']: scaler = StandardScaler() df_standard = df_base.copy() df_standard[col] = scaler.fit_transform(df[[col]]) df_standard['augmentation_note'] = f'standard_scaled_{col}' augmented_dfs.append(df_standard) # 将所有增强数据和原始数据合并（原始数据可以加个标记） df_original = df.copy() df_original['augmentation_note'] = 'original' augmented_dfs.insert(0, df_original) final_df = pd.concat(augmented_dfs, ignore_index=True) return final_df # 示例：对 feature_2 列进行混合缩放增强 scaled_df = scaling_augmentation(df, columns=['feature_2'], scaler_type='mix') print(f"增强后数据总行数: {len(scaled_df)}") print(f"增强类型分布: \n{scaled_df['augmentation_note'].value_counts()}") ``` ### 6. 特征交叉 (Feature Crossing) 通过组合两个或多个现有特征（如相加、相乘、取平均）来创建新的合成特征。这种方法可以揭示特征间复杂的交互关系[ref_3]。 ```python def create_feature_crosses(df, feature_pairs): """ 通过组合特征对来创建新特征。 参数: feature_pairs: 元组列表，每个元组包含用于交叉的特征列名和操作符（如 ('A', 'B', '*')） """ df_augmented = df.copy() for feat1, feat2, operator in feature_pairs: if feat1 in df.columns and feat2 in df.columns: new_col_name = f'{feat1}_{operator}_{feat2}' if operator == '+': df_augmented[new_col_name] = df[feat1] + df[feat2] elif operator == '-': df_augmented[new_col_name] = df[feat1] - df[feat2] elif operator == '*': df_augmented[new_col_name] = df[feat1] * df[feat2] elif operator == '/': # 避免除零错误 df_augmented[new_col_name] = df[feat1] / (df[feat2].replace(0, np.nan)) elif operator == 'avg': df_augmented[new_col_name] = (df[feat1] + df[feat2]) / 2 else: print(f"操作符 '{operator}' 不支持，跳过组合 ({feat1}, {feat2})") return df_augmented # 示例：创建特征乘积和平均值交叉特征 feature_pairs_to_cross = [ ('feature_0', 'feature_1', '*'), ('feature_2', 'feature_3', 'avg'), ] crossed_df = create_feature_crosses(df, feature_pairs_to_cross) print(f"增强后的特征列: {crossed_df.columns.tolist()}") ``` ### 选择与评估建议 在应用这些增强方法时，需要注意以下几点： 1. **方法选择**：对于**类别不平衡**问题，首选**SMOTE**及其变体（如Borderline-SMOTE, ADASYN）。对于提升**模型鲁棒性**，**加噪声**和**值域变换**是简单有效的方法。对于探索**特征间关系**，可以使用**特征交叉**。 2. **评估指标**：数据增强的效果应通过模型性能来评估。不应只关注训练集准确率的提升，更要关注验证集/测试集上**F1-score、AUC-ROC、精确率-召回率**等更能反映泛化能力的指标，因为增强的目的是提高模型在未见数据上的表现[ref_4]。 3. **避免数据泄露**：所有增强操作**必须仅在训练集上进行**，然后使用原始（未增强）的验证集和测试集进行评估。不能在整个数据集上先增强再划分训练测试集，这会导致评估结果过于乐观。 4. **强度控制**：增强的强度（如噪声大小、SMOTE的邻居数`k_neighbors`）需要调整。过强的增强（“过增强”）可能会扭曲数据的真实分布，引入过多无意义样本，反而损害模型性能[ref_4]。 5. **组合使用**：在实际项目中，通常组合多种方法（如先用SMOTE平衡类别，再对数值特征添加轻微噪声）效果更好。 6. **领域知识**：最有效的增强往往结合领域知识。例如，在金融风控中，可以通过业务规则合成符合逻辑的欺诈交易样本；在医疗数据中，可以根据生理指标的合理范围进行插值[ref_4]。 通过灵活应用以上Python实现的方法，并结合具体业务场景进行调整与评估，可以显著提升基于表格数据的机器学习模型（如GBDT、逻辑回归等）的性能[ref_1][ref_3]。