### 实现或使用交叉熵损失函数 对于二分类任务，通常会采用二元交叉熵（binary cross entropy）作为损失函数[^1]。下面展示如何利用Python中的`tensorflow.keras.losses.BinaryCrossentropy()`来定义并应用该损失函数。 #### 使用TensorFlow/Keras内置方法实现二元交叉熵 当构建神经网络模型时，可以通过如下方式指定损失函数： ```python from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Dense from tensorflow.keras.optimizers import Adam from tensorflow.keras.losses import BinaryCrossentropy # 创建一个简单的全连接层模型 model = Sequential([ Dense(32, activation='relu', input_shape=(784,)), Dense(1, activation='sigmoid') ]) # 编译模型，并设置优化器、损失函数以及评估指标 model.compile(optimizer=Adam(), loss=BinaryCrossentropy()) ``` 上述代码片段展示了创建一个多层感知机(Multilayer Perceptron)，其中最后一层只有一个节点且激活函数为Sigmoid，这适用于处理二分类问题。编译阶段指定了`BinaryCrossentropy`作为损失计算的方式。 #### 手动实现二元交叉熵 如果希望更深入理解其工作原理，则可以手动编写这个过程。以下是基于NumPy库的手工版本： ```python import numpy as np def binary_cross_entropy(y_true, y_pred): """ 计算给定真实标签y_true和预测概率分布y_pred之间的平均二元交叉熵 参数: y_true (numpy.ndarray): 形状(n_samples,)的真实标签数组 y_pred (numpy.ndarray): 形状(n_samples,)的概率估计值 返回: float: 平均二元交叉熵误差 """ epsilon = 1e-15 # 防止log0的情况发生 adjusted_y_pred = np.clip(y_pred, epsilon, 1 - epsilon) return -(np.mean( y_true * np.log(adjusted_y_pred) + (1 - y_true) * np.log(1 - adjusted_y_pred)) ) ``` 此自定义函数接收两个参数——实际的目标变量(`y_true`)与由模型产生的预测结果(`y_pred`)，并通过公式\[L=-\frac{1}{N}\sum_{i=1}^{N}[y_i \cdot log(\hat{y}_i)+(1-y_i)\cdot log(1-\hat{y}_i)]\][^2] 来计算两者间的差异程度。