论文部分内容阅读
自从2012年Alex Net在ImageNet大赛上取得巨大成功之后,深度学习便成为一个热门的研究方向,研究人员用深度学习来解决图片分类、图像分割和物体检测等计算机视觉领域的问题并且取得了巨大的成功。近年来涌现出了很多优秀的卷积神经网络模型。然而这些模型大部分计算量和大小都很大,只能用于服务器端并且需要高性能GPU加速才能运行,然而智能手机等移动设备对深度学习有着巨大的需求,因此,如何设计一个能够应用到移动端的轻量级的卷积神经网络成为了一个重要的问题。本文选择了轻量级卷积神经网络设计作为本文的研究内容。目前轻量级卷积神经网络模型主要有MobileNet,MobileNet模型虽然结果较好但是仍有一定缺点。通过对目前的卷积神经网络结构进行分析,本文提出了一种多层次残差网络结构,该结构使用分组卷积和深度可分离卷积,并且通过多层次的残差连接降低了模型的计算量。基于本文所提的网络结构,本文提出了一种面向移动端的轻量级卷积神经网络分类模型EENet,EENet通过使用多层次残差网络结构,在大大降低了模型的计算量同时几乎没有影响模型的效果,本文在Food101、ImageNet和Place365三个数据集上对EENet模型进行了测试,实验表明该模型的计算量只有42M FLOPs,但是结果却比SqueezeNet等模型要好很多。此外,本文还提出了一种自适应迭代式动态模型量化算法,该算法支持常见的卷积神经网络模型,可以对常见模型进行量化。通过自适应迭代,算法可以对模型进行多次迭代量化,可以在几乎不损失精度的情况下将模型量化到低位。实验结果表明自适应迭代式动态模型量化算法可以对ResNet等模型进行量化,量化结果要明显优于TWN等模型量化算法。自适应迭代式动态模型量化算法可以将EENet量化到6位,精度损失小于1%,量化后的EENet只有0.53M,计算量为43M FLOPs,该模型可以应用到智能手机等移动设备上。