### 回归问题中常用的损失函数及其对应的 numpy 实现名称 #### 1. 均方误差（Mean Squared Error, MSE） 均方误差是回归任务中最常用的损失函数之一。它通过计算预测值与真实值之间平方差的平均值来衡量模型性能。公式为： \[ MSE = \frac{1}{n} \sum_{i=1}^{n} (y_{true,i} - y_{pred,i})^2 \] 在 NumPy 中，可以通过以下方式实现： ```python def mse_loss(y_true, y_pred): return ((y_true - y_pred) ** 2).mean() ``` 该实现直接计算预测值和真实值之间的平方差，并取其平均值[^2]。 #### 2. 平均绝对误差（Mean Absolute Error, MAE） 平均绝对误差通过计算预测值与真实值之间绝对差的平均值来衡量模型性能。公式为： \[ MAE = \frac{1}{n} \sum_{i=1}^{n} |y_{true,i} - y_{pred,i}| \] 在 NumPy 中，可以通过以下方式实现： ```python def mae_loss(y_true, y_pred): return abs(y_true - y_pred).mean() ``` 此实现使用 `abs` 函数计算绝对差并取平均值[^3]。 #### 3. Huber 损失（Huber Loss） Huber 损失结合了 MSE 和 MAE 的优点，对于较小的残差采用平方误差，而对于较大的残差采用绝对误差。公式为： \[ L_\delta(a) = \begin{cases} \frac{1}{2}a^2 & \text{if } |a| \leq \delta \\ \delta (|a| - \frac{1}{2}\delta) & \text{otherwise} \end{cases} \] 其中 \( a = y_{true} - y_{pred} \)，\( \delta \) 是超参数。在 NumPy 中，可以通过以下方式实现： ```python def huber_loss(y_true, y_pred, delta=1.0): residual = abs(y_true - y_pred) condition = residual <= delta loss = where(condition, 0.5 * residual**2, delta * (residual - 0.5 * delta)) return loss.mean() ``` 此实现利用 `numpy.where` 根据条件选择不同的损失计算方式[^3]。 #### 4. 对数似然损失（Log-Cosh Loss） 对数似然损失是一种平滑的损失函数，适用于对异常值不敏感的场景。公式为： \[ L = \sum_{i=1}^{n} \log(\cosh(y_{true,i} - y_{pred,i})) \] 在 NumPy 中，可以通过以下方式实现： ```python import numpy as np def log_cosh_loss(y_true, y_pred): def cosh(x): return (np.exp(x) + np.exp(-x)) / 2 diff = y_true - y_pred return np.log(cosh(diff)).mean() ``` 此实现定义了双曲余弦函数 `cosh` 并计算其对数形式的平均值[^3]。 #### 5. 分位数损失（Quantile Loss） 分位数损失用于估计给定分位数的值，常用于时间序列预测等任务。公式为： \[ L = \frac{1}{n} \sum_{i=1}^{n} (\tau - I[y_{true,i} < y_{pred,i}]) \cdot (y_{true,i} - y_{pred,i}) \] 其中 \( \tau \) 是目标分位数。在 NumPy 中，可以通过以下方式实现： ```python def quantile_loss(y_true, y_pred, tau=0.5): error = y_true - y_pred loss = np.maximum(tau * error, (tau - 1) * error) return loss.mean() ``` 此实现根据误差符号调整损失权重以适应不同分位数[^3]。 ---