[ADAS预研笔记]感知算法 - 轻量化模型

CNN从实验室走向移动端通常会遇到效率问题（包括存储问题和速度问题），通常的操作是对训练好的模型进行模型压缩，另一个角度则是设计轻量化模型。

轻量化模型设计主要思想在于设计更高效的「网络计算方式」（主要针对卷积方式），从而使网络参数减少的同时，不损失网络性能。

SqueezeNet，MobileNet，ShuffleNet，Xception（轻量级backbone）

这四个轻量化模型都在卷积方式上做了改变。

1. SqueezeNet：

提出fire module（包含两部分：squeeze层+expand层），主要目的是减少feature map的维数。

SqueezeNet在不同压缩方式下的模型大小与ImageNet中的分类效果如下：

2. MobileNet：

v1：采用深度分离卷积(depth-wise separable convolution)方式代替传统卷积方式，将卷积过程分解为depthwise convolution和pointwise convolution，以达到减少网络权值参数的目的。

• 深度分离卷积为分组卷积(group convolution)的一种特殊形式，分组卷积的形象化解释如下：

&nb