### VarianceThreshold 参数详解 `VarianceThreshold` 是 scikit-learn 中用于特征选择的无监督方法，其核心思想是通过设定一个方差阈值来过滤掉方差低于该阈值的特征。其构造函数如下： ```python from sklearn.feature_selection import VarianceThreshold selector = VarianceThreshold(threshold=0.0) ``` #### 参数说明 - **threshold**（浮点数，默认值为 `0.0`） 用于设定特征方差的阈值。只有方差大于该值的特征才会被保留下来。默认值 `0.0` 表示仅保留那些不是常量的特征（即方差不为零的特征）[^2]。 例如，若设置 `threshold=0.1`，则所有方差小于等于 0.1 的特征将被移除。这在处理数据集中某些特征变化幅度较小但仍具有一定区分度的情况时非常有用。 #### 行为说明 - **无监督方法** 该方法不依赖于目标变量（即标签），因此适用于无监督学习任务，如聚类或降维预处理[^1]。 - **方差计算方式** `VarianceThreshold` 使用的是无偏样本方差公式，即除以 `(n_samples - 1)`。这与 `numpy.var()` 默认行为一致（`ddof=1`）。 #### 使用注意事项 - **特征标准化** 在应用 `VarianceThreshold` 之前，建议对数据进行标准化处理，以避免不同特征量纲对结果造成影响。例如，一个特征的取值范围是 [0, 1]，而另一个是 [0, 1000]，后者方差可能天然较大，但这并不一定意味着它更有信息量。 - **不能替代复杂特征选择方法** 该方法无法评估特征之间的组合效应或与目标变量的相关性，因此在进行模型优化时，通常需要结合其他方法，如基于统计检验的 `SelectKBest` 或基于模型的特征选择方法。 #### 示例代码 以下是一个使用 `VarianceThreshold` 的完整示例： ```python import numpy as np from sklearn.feature_selection import VarianceThreshold # 创建示例数据集（4个样本，5个特征） X = np.array([ [0, 2, 0, 3, 0], [0, 1, 4, 3, 0], [0, 2, 2, 3, 0], [0, 1, 4, 3, 0] ]) # 初始化方差阈值选择器，设定阈值为0.1 selector = VarianceThreshold(threshold=0.1) # 进行特征选择 X_selected = selector.fit_transform(X) # 输出结果 print("原始特征数:", X.shape[1]) print("筛选后特征数:", X_selected.shape[1]) print("保留的特征索引:", selector.get_support(indices=True)) ``` #### 适用场景 - 数据预处理阶段用于快速去除无信息特征。 - 在大数据集上进行特征筛选，因其计算效率高且实现简单。 - 与其他特征选择方法结合使用，作为初步筛选工具。