1、 RestNet网络
1.1、 RestNet网络结构
ResNet在2015年被提出,在ImageNet比赛classification任务上获得第一名,因为它“简单与实用”并存,之后很多方法都建立在ResNet50或者ResNet101的基础上完成的,检测,分割,识别等领域里得到广泛的应用。它使用了一种连接方式叫做“shortcut connection”,顾名思义,shortcut就是“抄近道”的意思,下面是这个resnet的网络结构:

它对每层的输入做一个reference(X), 学习形成残差函数, 而不是学习一些没有reference(X)的函数。这种残差函数更容易优化,能使网络层数大大加深。在上图的残差块中它有二层,如下表达式,
其中σ代表非线性函数ReLU。

然后通过一个shortcut,和第2个ReLU,获得输出y。

当需要对输入和输出维数进行变化时(如改变通道数目),可以在shortcut时对x做一个线性变换Ws,如下式。

然而实验证明x已经足够了,不需要再搞个维度变换,除非需求是某个特定维度的输出,如是将通道数翻

ResNet网络于2015年提出,在ImageNet比赛中获得分类任务冠军。它通过使用shortcut connections解决深层网络训练难题,实现网络深度增加而不退化。本文详细解析ResNet结构,包括残差块设计、ResNet50与ResNet101架构,以及bottleneck设计如何减少计算成本。
&spm=1001.2101.3001.5002&articleId=97917419&d=1&t=3&u=a6c4918e2bda42cda46887fb9988b9c4)
3万+

被折叠的 条评论
为什么被折叠?



