YOLOv11 改进 - 注意力机制 | SKAttention选择性内核注意力：轻量级设计动态调整感受野，增强复杂场景鲁棒性

前言

本文介绍了选择性卷积注意力机制（SKAttention）及其在YOLOv11中的结合应用。SKAttention受视觉皮层神经元自适应调整感受野大小的启发，通过“选择性核（Selective Kernel）”单元，允许不同内核大小的分支使用SoftMax融合，以动态选择卷积核大小，提高网络对多尺度特征的捕捉能力。该机制通过Split、Fuse和Select三个算子实现，能有效捕捉图像空间多尺度特征，提升模型处理不同尺度目标的性能。我们将SKAttention模块集成进YOLOv11。实验表明，在ImageNet和CIFAR基准测试中，相关网络在低复杂度下优于现有架构。

文章目录： YOLOv11改进大全：卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总

专栏链接: YOLOv11改进专栏

介绍

摘要

在标准卷积神经网络架构中，各层神经元的感受野尺寸通常被设定为固定值。然而，神经科学研究表明，生物视觉皮层神经元的感受野大小会随刺激特性而动态调节，这一重要特性在人工神经网络设计中尚未得到充分考量。本研究提出了一种动态选择机制，使得每个神经元能够依据多尺度输入信息自适应地调整其感受野范围。我们设计了一种称为选择性卷积（Selective Kernel，SK）单元的基础构建模块，该模块通过多个具有不同卷积核尺寸的分支结构，并采用基于分支信息引导的softmax注意力机制进行特征融合。在融合过程中，不同分支上的注意力权重分布导致神经元产生差异化的有效感受野尺寸。通过堆叠多个SK单元，构建了深度选择性卷积网络（SKNets）。在ImageNet和CIFAR基准数据集上的实验结果表明，SKNet在保持较低模型复杂度的前提下，性能表现优于当前最先进的网络架构。深入分析证实，SKNet中的神经元能够有效捕获不同尺度的目标特征，充分验证了神经元根据输入内容自适应调节感受野尺寸的能力。相关代码与预训练模型已在https://github.com/implus/SKNet平台开源发布。

文章链接

论文地址：