### Transformer 模型中的局部注意力窗口 为了有效处理多尺度信息，Transformer 模型可以通过引入局部注意力机制来限制注意力计算的范围。具体来说，局部注意力窗口允许模型仅关注特定区域内的token，而不是在整个序列范围内进行全局自注意力计算。 这种方法不仅减少了计算复杂度，还使得模型能够捕捉更精细的空间关系。例如，在3D点云补全任务中，某些方法采用了这种技术，通过设置固定大小的局部窗口来进行注意力计算[^1]。 ```python class LocalAttention(nn.Module): def __init__(self, window_size=7): super(LocalAttention, self).__init__() self.window_size = window_size def forward(self, x): B, N, C = x.shape # 将输入划分为多个局部窗口 num_windows = (N // self.window_size) # 对每个窗口内执行自注意力操作 local_attn_output = [] for i in range(num_windows): start_idx = i * self.window_size end_idx = min((i + 1) * self.window_size, N) window_x = x[:, start_idx:end_idx, :] attn_window = self.self_attention(window_x) local_attn_output.append(attn_window) output = torch.cat(local_attn_output, dim=1) return output ``` ### 分层叠加融合方式 除了局部化注意力外，分层次结构也是处理多尺度信息的关键手段之一。该方法通常涉及构建一个多阶段网络框架，其中每一层专注于不同的分辨率级别上的特征提取与融合工作。这有助于更好地保留原始数据的不同尺度特性，并促进跨模态间的信息交流。 在基于Transformers的方法中，如MCT-Net所展示的技术路线，先从高低分辨率图像中获取多尺度空间局部信息，再利用提出的多层次交叉Transformer(MCT)，进一步增强这些特征表达能力并完成最终的目标——即高质量重建高分辨率HSI影像[^2]。 ```python def multi_scale_fusion(features_list): fused_features = None for scale_level, features in enumerate(features_list): upsampled_feature = F.interpolate( input=features, size=(H, W), mode='bilinear', align_corners=True ) if fused_features is None: fused_features = upsampled_feature else: fused_features += upsampled_feature normalized_fused = nn.LayerNorm(fused_features.size()[1:])(fused_features) return normalized_fused ```