### Restormer 的块结构图与架构详解 Restormer 是一种基于 Transformer 的图像复原框架，其核心在于 GDFN（Global Depthwise Feedforward Network）模块的设计。以下是关于 Restormer 块结构及其架构的详细介绍。 #### 1. 整体架构概述 Restormer 使用了一种轻量级的多头自注意力机制 (MHSA)，并结合了全局深度卷积前馈网络 (GDFN)[^3]。这种设计使得 Restormer 能够高效处理高分辨率图像，同时保持较低的计算复杂度。整体架构由多个重复的核心块组成，这些块通过残差连接串联在一起。 #### 2. 核心组件分析 ##### （1）GDFN 模块 GDFN 是 Restormer 中的关键部分之一，用于对特征进行变换。具体来说，该模块采用两步操作来完成特征映射： - **扩展特征通道**：首先使用一个 1×1 卷积层将输入特征的通道数增加至原始尺寸的四倍。 - **引入非线性激活函数**：接着，在隐藏层中应用 ReLU 或其他非线性激活函数以增强表达能力。 - **压缩回原始维度**：最后再用另一个 1×1 卷积层将特征通道数量缩减到初始大小。 此过程可以表示如下： ```python def gdfn(x): expanded_features = Conv1x1(expansion_factor * input_channels)(x) activated_features = relu(expanded_features) compressed_features = Conv1x1(input_channels)(activated_features) return compressed_features ``` ##### （2）多头自注意力机制 (MHSA) 为了捕捉长距离依赖关系，Restormer 利用了 MHSA 来建模全局上下文信息。相比于传统 CNN 方法仅限于局部感受野的情况，MHSA 提供了一个更广阔的视野范围，从而更好地保留细粒度纹理和边缘信息。 注意分数计算公式为： \[ Attention(Q,K,V)=softmax(\frac{QK^{T}}{\sqrt{d_{k}}})V \] 其中 \( Q \),\( K \), 和 \( V \) 分别代表查询(Query)、键(Key)以及值(Value);而 \( d_k \) 表示 Key 向量长度。 ##### （3）残差学习策略 每一轮迭代之后都会加上一层浅显易懂却极其重要的环节——即把未经任何修改过的原始数据重新加回到当前输出上形成最终结果。这样做的好处是可以让模型更容易训练，并且防止梯度消失现象发生。 #### 3. 实现细节补充说明 除了上述提到的主要组成部分外，还有一些额外的技术要点值得注意： - 数据预处理阶段可能涉及到标准化(normalization)或者归一化(standardization); - 训练过程中可能会运用一些正则项(regularizers)比如 L2 正则; - 测试时需考虑如何评估指标如 PSNR/SSIM 等. ### 结论 综上所述,Restormer 凭借着独特的 GDFN 设计理念配合高效的 MHSA 技术成功实现了高质量图片修复效果的同时还兼顾到了运行效率方面的要求.