YOLO11改进|注意力机制篇|引入Mamba注意力机制MLLAttention

一、【MLLAttention】注意力机制

1.1【MLLAttention】注意力介绍

下图是【MLLAttention】的结构图，让我们简单分析一下运行过程和优势

处理过程：

• MLLA Block：
• MLLA 模块的核心是其线性注意力机制，输入首先通过一个 线性变换（Linear），对输入特征进行降维或转化。
• 接着，线性注意力（Linear Attention） 被应用在变换后的特征上。线性注意力的主要特点是其计算复杂度低，能够快速处理长序列特征。这一层通过简单的线性变换替代了复杂的自注意力机制，提升了效率。
• 之后，特征会进一步通过 卷积（Conv） 和其他线性层进行细粒度的特征提取。这些操作确保特征在局部范围内也能够被有效捕捉和处理。