细粒度图像识别研究近年来逐渐兴起,在无人零售、智慧交通、人机交互等方面具有广泛应用。本文就transformer在细粒度图像识别领域存在空间特征提取粒度过于粗糙及模型参数过大存在计算冗余两大弊端分别展开研究,一方面,进一步细化transformer的特征提取粒度,另一方面,在保持理想识别精度的情况下压缩其参数量、去除冗余计算,便于实际应用。本文的主要的研究内容及技术创新如下:第一,针对原始transformer模型特征提取粒度过于粗糙的问题。本文设计了一种新的基于深层聚合掩码的transformer细粒度图像识别算法,该算法由深层聚合掩码生成模块DLAM及视觉transformer构成。通过DLAM对图像不同尺度的语义及空间信息进行融合,生成与原图尺寸相同的掩码,作用于原图后送入后续transformer进行识别。该网络在有效细化transformer架构空间特征提取粒度的同时,不改变其预处理时划分图像片的大小及数量。模型在CUB-200-2011、Stanford Dogs及NABirds数据集的识别精度相较于原始视觉transformer有了显著提升,可视化分析结果也进一步印证了本算法的合理性及有效性。第二,针对现有transformer在细粒度图像识别任务中存在计算冗余及参数量过大的问题:本文对transformer原有结构进行改进,设计了一种基于权值矩阵压缩及可调前馈通道剪枝的压缩transformer模型。主要的贡献有以下几个方面:1.设计了一种transformer权值矩阵压缩方法:改变transformer自注意机制内部查询矩阵Q及键值矩阵K的映射方式,有效降低其架构内部的冗余计算。2.对transformer的前馈通道进行修剪率可调的剪枝操作:通过设置通道置信分数,去除不重要的前馈通道,使得剪枝后的模型参数大大减少。3.提出基于知识蒸馏的训练策略:设计预测软目标蒸馏损失、transformer层蒸馏损失,与交叉熵损失共同优化网络,使得压缩后的模型在参数量减少的情况下,保持其泛化及推理能力。4.设计细致合理的消融实验:分别对比了权值矩阵压缩前后及加入前馈通道修剪率分别为20%、40%、50%、60%的操作时模型在CUB-200-2011、Stanford Dogs及NABirds数据集上识别精度、参数量、以及计算量的变化情况。实验结果也证明了该压缩transformer模型的可行性及合理性。