现阶段,深度卷积神经网络已经在许多计算机视觉任务上显示出了强大的性能。不断堆叠的网络层数为模型提供了强大的特征处理能力,但是,这也使得深度卷积神经网络模型存在存储内存过大和计算量过多等问题,不利于其在轻量级设备上进行部署。因此,如何对深度卷积神经网络进行压缩这一问题吸引了学术界的目光。虽然对神经网络模型压缩的研究已经取得了一定进展,但是目前仍存在许多亟待解决的问题。例如,大多数剪枝（Pruning）算法经验性地选择了L-p范数作为卷积核的重要性衡量标准,忽略了同一卷积层卷积核L-p范数的分布情况,该算法默认卷积核L-p范数分布较为分散,可以选择出冗余的卷积核进行剪枝,但其实大多数深度卷积神经网络中同一卷积层卷积核L-p范数的分布较为集中,不利于冗余卷积核的识别。再如,知识蒸馏（Knowledge Distillation,KD）方面,注意力机制的加入确实提升了知识迁移的效果,但是传统的注意力图生成方式采用了所有的特征图通道,这种方式默认所有特征图通道对模型做出了均等贡献。事实上,数据显示,特征图通道间特征强度存在明显差异,这一方式生成的注意力图并不能完全发挥注意力机制的优势。本文从上述问题出发,从剪枝和知识蒸馏两方面对深度卷积神经网络压缩问题进行研究,提出相应的解决方案,具体贡献如下:（1）本文提出了特征图离散度剪枝算法,通过单个卷积核对一批输入图像生成的多个特征图通道的离散度来衡量卷积核的重要性,避免了在整体区分度不大的卷积核参数上设计重要性衡量标准。相较于在卷积核上设计重要性衡量标准的剪枝算法,特征图离散度剪枝算法能够利用卷积核生成的不同特征图通道的离散度来判断该卷积核对输入数据关键特征的提取能力,进而衡量卷积核的重要性。而且从特征图上设计卷积核重要性衡量标准可以利用特征图的分布属性,拉开卷积核重要性分布距离,更准确地定位到冗余的卷积核。并且该算法不需要引进多余的超参数,降低了人工成本,只需很小的计算量,因而可以轻易地应用到任意主流的深度卷积神经网络模型上,具有普适性。同时,为了减小剪枝操作对模型分类准确率的影响,本文采用了循环剪枝框架平缓模型结构的改变速度。图像分类数据集上的实验结果显示,特征图离散度剪枝算法在绝大多数模型上的表现优于现有的剪枝算法,在同等剪枝率的情况下模型准确率损失最小,特别是对cifar-10数据集上的Resnet110模型剪枝30%卷积核后,只有0.09%的准确率损失。（2）本文提出了增强注意力知识蒸馏算法,舍弃教师网络中特征强度较弱的特征图通道,只选择教师网络中间层具有指导意义的特征图通道生成增强注意力图来辅助学生网络进行训练,即只把教师网络中优秀的知识传递给学生网络学习,提升了知识蒸馏的效果。并且本文运用了Early Stop技术,减少后期知识蒸馏部分损失函数在整体损失函数中的权重,进一步提升增强注意力知识蒸馏算法的效果。图像分类数据集上的实验结果显示,与现有的知识蒸馏算法相比,增强注意力知识蒸馏算法结合Early Stop的训练方式可以给学生网络带来更多的性能提升。