### 成本敏感半监督学习算法的实现 为了处理不平衡数据集中的分类问题，可以采用成本敏感的学习方法来评估错误分类的成本[^1]。以下是基于 Python 的成本敏感半监督学习算法实现示例，适用于反欺诈二分类任务。 #### 数据准备与预处理 在实际应用中，通常需要对原始数据进行清洗和标准化处理。假设我们已经准备好了一个带有标签的数据集 `X_labeled` 和未标记的数据集 `X_unlabeled`： ```python import numpy as np from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler # 假设 X 是特征矩阵，y 是目标变量 (0 或 1 表示正常/异常) X, y = load_data() # 自定义函数加载数据 # 划分已标注数据和未标注数据 X_labeled, X_unlabeled, y_labeled, _ = train_test_split(X, y, test_size=0.8, stratify=y) # 特征缩放 scaler = StandardScaler() X_labeled_scaled = scaler.fit_transform(X_labeled) X_unlabeled_scaled = scaler.transform(X_unlabeled) ``` #### 半监督模型构建 这里使用自训练（Self-Training）的方法扩展到未标记样本上，并结合成本敏感策略调整权重。 ```python from sklearn.semi_supervised import SelfTrainingClassifier from sklearn.linear_model import LogisticRegression from sklearn.metrics import make_scorer, precision_score, recall_score, f1_score, roc_auc_score, geometric_mean_score from sklearn.metrics import roc_curve, auc # 定义基础分类器并引入成本敏感机制 base_classifier = LogisticRegression(class_weight={0: 1, 1: 10}) # 调整正负类别的权重 # 使用自训练方法 self_training_clf = SelfTrainingClassifier(base_estimator=base_classifier, threshold=0.75) # 训练模型 self_training_clf.fit(X_labeled_scaled, y_labeled) ``` #### 性能评估 通过 Precision、Recall、F1-Score、G-Mean、AUC 和 ROC 曲线等指标衡量模型性能。 ```python from sklearn.metrics import confusion_matrix def evaluate_model(y_true, y_pred_proba): thresholds = [i / 100 for i in range(1, 100)] best_f1 = 0 best_threshold = None results = [] for t in thresholds: y_pred = (y_pred_proba[:, 1] >= t).astype(int) prec = precision_score(y_true, y_pred) rec = recall_score(y_true, y_pred) f1 = f1_score(y_true, y_pred) gmean = geometric_mean_score(y_true, y_pred) if f1 > best_f1: best_f1 = f1 best_threshold = t results.append({ 'Threshold': t, 'Precision': prec, 'Recall': rec, 'F1 Score': f1, 'G-Mean': gmean }) return pd.DataFrame(results), best_threshold # 预测概率 y_prob = self_training_clf.predict_proba(X_unlabeled_scaled) # 获取最佳阈值下的评价结果 eval_df, optimal_threshold = evaluate_model(y_unlabeled, y_prob) print(f"Optimal Threshold: {optimal_threshold}") print(eval_df.head()) # 绘制ROC曲线 fpr, tpr, _ = roc_curve(y_unlabeled, y_prob[:, 1]) roc_auc = auc(fpr, tpr) plt.figure(figsize=(8, 6)) plt.plot(fpr, tpr, color='darkorange', lw=2, label=f'ROC curve (area = {roc_auc:.2f})') plt.plot([0, 1], [0, 1], color='navy', lw=2, linestyle='--') plt.xlabel('False Positive Rate') plt.ylabel('True Positive Rate') plt.title('Receiver Operating Characteristic Curve') plt.legend(loc="lower right") plt.show() ``` 上述代码实现了带成本敏感性的半监督学习框架，并提供了多种评价指标计算方式以及可视化工具支持。 --- 相关问题