Mamba凭借状态空间模型(SSM)的线性计算复杂度,在长序列建模领域具有不输Transformer的统治地位,而注意力机制的全局依赖感知进一步巩固了这种优势。近期,清华团队最新力作 MambaIRv2 将二者深度融合,在图像复原赛道实现了"线性效率-全局精度"双优。其创新性硬件感知扫描策略(HASS)将原始MambaIR的四向扫描压缩至单次遍历,通过动态门控注意力重加权机制,在保持97.3%像素采样完整性的同时,使DIV2K数据集上的计算能耗直降58%。
Mamba-注意力混合架构的技术突破呈现出多维度辐射。通过创新方案如时空建模革新、动态路由机制和异构计算适配,这类架构正在重塑医疗影像重建、卫星地图增强等关键技术,未来或将开创3D Mamba-注意力建模等新方向。
本文整理了【12篇】最新前沿研究,供同学们学习与参考,欢迎自取~
对资料感兴趣的可以 [丝 xin] 我~~
一、vGamba: Attentive State Space Bottleneck for efficient Long-range Dependencies in Visual Recognition

1. 方法
本文提出了vGamba,一种混合视觉骨干网络,结合了SSM和注意力机制,以提高效率和表现力。vGamba的核心是Gamba瓶颈块,包含Gamba单元、二维多头自注意力(MHSA)机制和门控融合模块,旨在有效表示特征。在分类、检测和分割任务上的广泛实验表明,vGamba在准确性和计算效率之间实现了优越的平衡,超越了多种现有模型。

1114




被折叠的 条评论
为什么被折叠?



