### 使用TensorFlow 1.x 实现SE注意力机制 SE (Squeeze-Excitation) 注意力机制是一种用于增强卷积神经网络性能的技术，通过重新校准特征通道的重要性来提高模型的表现。下面是一个基于TensorFlow 1.x版本实现SE模块的例子。 ```python import tensorflow as tf def se_block(input_feature, ratio=8): """Implementation of Squeeze-and-Excitation block.""" channel_axis = 1 if K.image_data_format() == "channels_first" else -1 channel = input_feature.get_shape().as_list()[channel_axis] se_shape = (1, 1, channel) # Global average pooling along channels se = tf.reduce_mean(input_feature, axis=[1, 2], keepdims=True) # Fully connected layer with ReLU activation function se = tf.layers.dense(se, units=channel // ratio, activation=tf.nn.relu, kernel_initializer=tf.keras.initializers.he_normal(), use_bias=False) # Another fully connected layer without any activation function se = tf.layers.dense(se, units=channel, activation=None, kernel_initializer=tf.keras.initializers.he_normal(), use_bias=False) # Apply sigmoid non-linearity to get weights for each channel se = tf.nn.sigmoid(se) # Scale the input features using these weights se = input_feature * se return se ``` 此代码片段定义了一个名为`se_block`的函数，该函数接受一个张量作为输入并返回经过SE操作后的输出。这里采用了全局平均池化层squeeze部分提取空间信息，并利用两个全连接层完成excitation过程，最后将得到的权重应用于原始输入上[^1]。 为了确保这段代码能够在TensorFlow 1.x环境中正常工作，需要注意以下几点： - `tf.layers.dense()`替代了更高版本中的`Dense`类； - 显式指定了内核初始化器和偏置项选项； - 对于激活函数的选择也做了相应调整； 此外，在实际应用中可能还需要考虑其他因素如批次标准化等，具体取决于所构建的整体架构需求。