### 如何在 PyTorch 中使用 SHAP 进行分类任务 为了理解如何在 PyTorch 中应用 SHAP (SHapley Additive exPlanations)，可以参考一个具体的例子，即 MNIST 数据集的手写数字识别任务。此过程涉及加载预训练模型、准备数据集以及利用 `DeepExplainer` 来解释预测结果。 #### 加载必要的库并定义环境设置 首先确保环境中已安装所需的 Python 库： ```bash pip install torch torchvision shap matplotlib numpy pandas scikit-image opencv-python ``` 接着导入所需模块，并设定随机种子以保证实验可重复性： ```python import os os.environ["CUDA_VISIBLE_DEVICES"] = "0" import warnings; warnings.filterwarnings('ignore') from sklearn.metrics import accuracy_score import numpy as np import cv2 import matplotlib.pyplot as plt plt.style.use('ggplot') import torch import torch.nn.functional as F from torchvision.datasets.mnist import MNIST from torchvision.transforms import ToTensor from torch.utils.data.dataloader import DataLoader from pytorchcv.model_provider import get_model as ptcv_get_model ``` #### 准备数据集与加载预训练模型 对于本案例而言，采用的是经典的 MNIST 手写字体图片集合作为输入源；同时选用 LeNet 架构来构建卷积神经网络(CNN)用于图像分类工作。这里假设已经有一个经过良好训练过的 CNN 模型实例存在。 ```python # 设置参数 batch_size = 64 num_workers = 4 # 下载测试集 test_dataset = MNIST(root='./data', train=False, transform=ToTensor(), download=True) # 创建DataLoader对象 test_loader = DataLoader(dataset=test_dataset, batch_size=batch_size, shuffle=False, num_workers=num_workers) device = 'cuda' if torch.cuda.is_available() else 'cpu' model = ptcv_get_model("lenet", pretrained=True).to(device) ``` #### 使用 SHAP 解释器分析模型决策逻辑 一旦完成了上述准备工作之后，则可以通过创建 `shap.DeepExplainer` 实例来进行特征重要性的评估。具体来说就是通过传递给定样本及其对应的背景分布至该类构造函数内完成初始化操作。 ```python import shap def map2canvas(image_tensor): image_np = image_tensor.cpu().numpy() canvas = np.zeros((image_np.shape[1], image_np.shape[2])) for i in range(len(image_np)): canvas += abs(image_np[i]) return canvas / max(1e-9, canvas.max()) background = next(iter(test_loader))[0].to(device)[:100] explainer = shap.DeepExplainer(model, background) for data, target in test_loader: output = model(data.to(device)) pred = output.argmax(dim=1, keepdim=True) # 获取单张图片的Shap值 shap_values = explainer.shap_values(data[:1].to(device)) fig, axes = plt.subplots(nrows=1, ncols=2, figsize=(8, 4)) ax = axes.ravel() ax[0].imshow(map2canvas(shap_values[pred.item()][0]), cmap='gray') ax[0].set_title(f'SHAP Value ({pred.item()})') ax[0].axis('off') img = ((data[0][0]).detach()).numpy() ax[1].imshow(img, cmap='gray') ax[1].set_title(f'True Label {target[0]}') ax[1].axis('off') break plt.tight_layout() plt.show() ``` 这段代码展示了如何获取一张手写数字图像对应于各个类别概率估计下的 Shap 值，并将其可视化出来以便直观地观察哪些像素区域对最终判断产生了较大影响[^1]。