【轻量级网络】MobileNet-v1详解

论文：《MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications》
论文链接：https://arxiv.org/abs/1704.04861

概述

       卷积神经网络（CNN）已经普遍应用在计算机视觉领域，并且已经取得了不错的效果。为了追求分类准确度，模型深度越来越深，模型复杂度也越来越高，如深度残差网络（ResNet）其层数已经多达152层。然而，在某些真实的应用场景如移动或者嵌入式设备，如此大而复杂的模型是难以被应用的。首先是模型过于庞大，面临着内存不足的问题，其次这些场景要求低延迟，或者说响应速度要快，想象一下自动驾驶汽车的行人检测系统如果速度很慢会发生什么可怕的事情。所以，研究小而高效的CNN模型在这些场景至关重要。
       这篇论文是谷歌在2017年提出了，专注于移动端或者嵌入式设备中的轻量级CNN网络。该论文最大的创新点是，提出了深度可分离卷积（depthwise separable convolution）。

深度可分离卷积

       MobileNet的基本单元是深度可分离卷积（depthwise separable convolution）,深度可分离卷积其实是一种可分解卷积操作，其可以分解为两个更小的操作：depthwise convolution和pointwise convolution。Depthwise convolution和标准卷积不同，对于标准卷积其卷积核是作用在所有的输入通道上，而depthwise convolution针对每个输入通道采用不同的卷积核，就是说一个卷积核对应一个通道，所以说depthwise convolution是depth级别的操作。而pointwise convolutio