### 实现 Sigmoid 激活函数 Sigmoid 函数是一种常用的激活函数，其数学公式为： $$ \sigma(x) = \frac{1}{1 + e^{-x}} $$ 它将输入值映射到 $ (0, 1) $ 的范围内，适用于二分类问题。在 Python 中，可以通过多种方式实现 Sigmoid 函数。 #### 使用 `math` 库（适用于单个数值） ```python import math def sigmoid(x): return 1 / (1 + math.exp(-x)) # 示例使用 print(sigmoid(0)) # 输出: 0.5 ``` 该方法适合处理单个数值的计算，但无法直接处理列表或数组 [^2]。 #### 使用 `numpy` 库（适用于数组、矩阵等） ```python import numpy as np def sigmoid(x): return 1 / (1 + np.exp(-x)) # 示例使用 nums = np.arange(-10, 10, step=1) print(sigmoid(nums)) ``` `numpy` 提供了对数组和矩阵运算的支持，因此更适合批量数据的处理 [^4]。 #### 使用 `scipy.special.expit`（数值稳定） ```python from scipy.special import expit # 示例使用 print(expit(0)) # 输出: 0.5 print(expit([ -5, 0, 5])) # 输出: [0.00669285 0.5 0.99330715] ``` `expit` 是专门为计算 Sigmoid 函数设计的函数，具有更好的数值稳定性 [^2]。 #### 可视化 Sigmoid 函数 可以使用 `matplotlib` 对 Sigmoid 函数进行可视化： ```python import matplotlib.pyplot as plt import numpy as np def sigmoid(x): return 1 / (1 + np.exp(-x)) # 生成输入数据 x = np.arange(-10, 11, 0.01) y = sigmoid(x) # 绘制图像 plt.plot(x, y, color="g", linewidth=3) plt.title("Sigmoid Function") plt.xlabel("x") plt.ylabel("sigmoid(x)") plt.grid(True) plt.show() ``` 通过绘制图像，可以直观地看到 Sigmoid 函数的输出特性 [^5]。 --- ### 小结 - **适用场景**：Sigmoid 函数主要用于二分类问题，如逻辑回归或神经网络的最后一层。 - **优点**：输出范围在 $ (0, 1) $，便于解释为概率。 - **缺点**：存在梯度消失的问题，尤其在深层网络中表现不佳。 - **替代方案**：ReLU、Tanh 等激活函数常用于替代 Sigmoid 函数以解决梯度消失问题 [^1]。 ---