# 作业：支持向量机（SVM） ## 程序概述 本程序使用Python实现了一个简单的支持向量机分类器。使用`scikit-learn`库进行数据生成、模型训练和预测，并可视化了结果。 ### 来源与平台信息 - **来源**：自主编写 - **IDE**：PyCharm / VS Code - **Python版本**：3.8 或以上 - **程序简介**：使用支持向量机（SVM）对二维空间中的两类点进行分类，展示分类边界和支持向量 - **作者**：张三 - **时间**：2024年6月5日 --- ## Python代码及解释 ```python # 导入所需库 from sklearn import svm from sklearn.datasets import make_blobs import matplotlib.pyplot as plt # 生成二维线性可分的数据集 X, y = make_blobs(n_samples=100, centers=2, cluster_std=1.5, random_state=40) # 构建SVM分类器模型（使用线性核） model = svm.SVC(kernel='linear') model.fit(X, y) # 拟合数据 # 绘制数据点 plt.scatter(X[:, 0], X[:, 1], c=y, s=30, cmap=plt.cm.Paired) # 创建决策边界 ax = plt.gca() xlim = ax.get_xlim() ylim = ax.get_ylim() # 创建网格用于评估模型 xx, yy = np.meshgrid(np.linspace(xlim[0], xlim[1], 50), np.linspace(ylim[0], ylim[1], 50)) Z = model.decision_function(np.c_[xx.ravel(), yy.ravel()]) Z = Z.reshape(xx.shape) # 绘制决策边界和间隔 ax.contour(xx, yy, Z, colors='k', levels=[-1, 0, 1], alpha=0.5, linestyles=['--', '-', '--']) # 绘制支持向量 ax.scatter(model.support_vectors_[:, 0], model.support_vectors_[:, 1], s=100, linewidth=1, facecolors='none', edgecolors='k') plt.title('Support Vector Machine (SVM) Decision Boundary') plt.show() ``` --- ## 代码解析 ### 第一步：导入库 ```python from sklearn import svm from sklearn.datasets import make_blobs import matplotlib.pyplot as plt ``` - `svm`：提供SVM分类器 - `make_blobs`：用于生成聚类数据集 - `matplotlib.pyplot`：用于可视化结果 ### 第二步：生成数据 ```python X, y = make_blobs(n_samples=100, centers=2, cluster_std=1.5, random_state=40) ``` - 生成100个样本点，分为两类，标准差为1.5，确保数据线性可分 ### 第三步：构建并训练模型 ```python model = svm.SVC(kernel='linear') model.fit(X, y) ``` - 使用线性核函数的SVM分类器 - 拟合训练数据 ### 第四步：可视化 ```python plt.scatter(X[:, 0], X[:, 1], c=y, s=30, cmap=plt.cm.Paired) ``` - 绘制原始数据点，不同类别用颜色区分 ```python xx, yy = np.meshgrid(np.linspace(xlim[0], xlim[1], 50), np.linspace(ylim[0], ylim[1], 50)) Z = model.decision_function(np.c_[xx.ravel(), yy.ravel()]) Z = Z.reshape(xx.shape) ``` - 创建一个网格，用来绘制决策边界 - `np.meshgrid()`：生成网格坐标 - `decision_function()`：获取每个点的分类置信度 ```python ax.contour(xx, yy, Z, colors='k', levels=[-1, 0, 1], alpha=0.5, linestyles=['--', '-', '--']) ``` - 绘制等高线图，显示SVM的决策边界和间隔 ```python ax.scatter(model.support_vectors_[:, 0], model.support_vectors_[:, 1], s=100, linewidth=1, facecolors='none', edgecolors='k') ``` - 标出支持向量（support vectors），它们决定了分类边界 --- ## 运行结果 运行后将输出以下图形： 1. 两个类别分别用不同颜色表示的散点图 2. 中间实线表示分类边界 3. 两侧虚线表示最大间隔 4. 圈出的支持向量以黑色圆圈形式展示 --- ## 知识点详解 1. **支持向量机（SVM）** - SVM通过最大化分类间隔来寻找最优分类超平面，适用于线性或非线性分类问题。 2. **线性核函数** - 线性核是最简单的核函数，用于处理线性可分问题，形式为$ K(x, y) = x^T y $。 3. **决策边界与间隔** - 决策边界是分类器判断正负样本的界限；间隔是距离边界最近的两类点之间的宽度，SVM目标是最大化这个间隔。