【4】卷积神经网络之DenseNets

原创

已于 2023-01-07 11:47:37 修改 · 2.8k 阅读

标签

#深度学习 #人工智能

于 2022-11-13 19:57:58 首次发布

本文探讨了DenseNet卷积神经网络，通过密集连接提高信息流，减少参数，解决梯度消失问题。它与ResNets的区别在于不求和而是串联特征图。DenseNet在参数效率和深度学习训练中表现出色，通过实例和代码展示了其网络架构和工作原理。

1、研究背景

（1）最近的工作表明，如果卷积网络在靠近输入的层和靠近输出的层之间包含较短的连接，则可以进行更深入，更准确和有效的训练。在本文中，我们接受了这一观察，并介绍了密集卷积网络（DenseNet），该网络以前馈方式将每一层连接到其他每一层。具有L层的传统卷积网络具有L(L+1)/2个连接（每层与其后续层之间有一个连接），而我们的网络具有L个直接连接。对于每一层，所有先前层的特征图都用作输入，而其自身的特征图则用作所有后续层的输入。 DenseNets具有几个引人注目的优点：它们减轻了消失梯度的问题，增强了特征传播，鼓励了特征重用，并大大减少了参数数量。

（2）卷积神经网络（CNN）已成为视觉对象识别的主要机器学习方法。尽管它们最初是在20多年前引入的[18]，但计算机硬件和网络结构的改进才使真正的深度CNN训练成为可能。最初的LeNet5 [19]由5层组成，VGG具有19层[29]，仅去年的高速公路网[34]和残差网络（ResNets）[11]才突破了100层障碍。

（3）ResNets 和 DenseNets 之间的主要区别在于 DenseNets 将层的输出特征图与下一层连接而不是求和。DenseNets网络架构与ResNet有点相像，都是把L-1层的输出作为L层的输入，DenseNets作为L+1,...,L+n的输入，这也就是dense含义的所在了。

（4）随着CNN越来越深入，出现了一个新的研究问题：随着有关输入或渐变的信息穿过许多层，当到达网络的末端（或起点）时，它可能消失并“洗掉”。最近的许多出版物都解决了这一问题或相关问题。 ResNets [11]和Highway Networks [34]通过身份连接将信号从一层旁路到另一层。随机深度[13]通过在训练过程中随机放置各层来缩短ResNets，以提供更好的信息和梯度流。 FractalNets [17]反复将几个并行层序列与不同数量的卷积块组合在一起，以获得较大的标称深度，同时保持网络中的许多短路径。尽管这些不同的方法在网络拓扑和培训过程方面有所不同，但是它们都具有一个关键特征：它们创建了从早期层到后续层的短路径。在本文中，我们提出了一种架构，该架构将这种见解提炼为简单的连通性模式：为了确保网络中各层之间的最大信息流，我们将所有层（具有匹配的特征图大小）直接相互连接。为了保留前馈特性，每个层都从所有先前的层中获取其他输入，并将其自身的特征图传递给所有后续层。图1示意性地说明了这种布局。至关重要的是，与ResNets相比，我们永远不会在将特征传递到图层之前通过求和来组合特征。相反，我们通过串联功能来组合它们。因此，“第l层具有”输入，由所有前面的卷积块的特征图组成。它自己的特征图将传递到所有L-′后续层。这将在L层网络中引入L（L + 1）/ 2个连接，而不是像传统体系结构那样仅引入L个。由于其密集的连接模式，我们将这种方法称为密集卷积网络（DenseNet）。

（5）这种密集的连接模式的可能与直觉相反的效果是，与传统的卷积网络相比，它需要的参数更少，因为不需要重新学习冗余的特征图。可以将传统的前馈体系结构视为具有状态的算法，该状态会逐层传递。每一层都从其上一层读取状态并写入下一层，它不仅改变状态，还传递需要保留的信息。 ResNets [11]通过附加身份转换使信息保存变得明确。ResNets[13]的最新变化表明，许多层的贡献很小，实际上在训练过程中可以随意丢弃。这使得ResNet的状态类似于（展开的）递归神经网络[21]，但是ResNet的参数数量实质上更大，因为每一层都有其自己的权重。我们提出的DenseNet体系结构明确区分了添加到网络中的信息和保留的信息。DenseNet层非常狭窄（例如，每层12个过滤器），仅向网络的“集体知识”添加少量特征图集网络并保持其余特征图不变-最终分类器根据网络中的所有特征图做出决定。

（6）除了更好的参数效率外，DenseNets的一大优势是它们改善了整个网络中的信息流和梯度，这使得它们易于训练。每层都可以直接从损耗函数和原始输入信号访问梯度，从而导致隐式的深度监控[20]。这有助于训练更深层次的网络体系结构。此外，我们还观察到密集的连接具有正则化效果，从而减少了训练集大小较小的任务的过度拟合。

2、网络架构

由上图的网络架构可以明显的看出，DenseNet是把第0,...,L-1层输出的feature maps（第0层表示输入图像）拼接层一个张量（tensor）feature maps，作为L层的输入。

1】、密集连接：为了提高信息流也就是个人理解的特征在层与层之间的连接。密集连接属于一个DenseBlock块里面的，不同的DenseBlock块不存在密集连接。
2】、Composite function（复合功能）：指的是上图中H1 H2 H3，这里面的操作包含：BN，Relu，3*3conv（padding=1，不改变feature map的尺寸）

3】、Pooling layers：整个网络分为多个dense block，在一个dense block结束，连接下一个dense block之前，需要经过一个transition layers层（黄框部分），它包含了BN，1*1con pooling层