基于知识蒸馏的人脸识别模型压缩及其部署

来源 :武汉科技大学 | 被引量 : 0次 | 上传用户:lcgbeyong
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人脸识别系统已经成为身份认证中最著名的生物识别技术之一,并已经广泛应用于军事、安防和日常生活等领域,故人脸识别的研究具有重要的研究意义和落地价值。在嵌入式设备中,人脸识别系统的识别速度和识别精度是极为重要的。将人脸识别技术移植到这种资源受限型设备上时,往往需要经过模型压缩等加速方法的处理。知识蒸馏是一种实际应用较广,且易于训练的模型压缩方法。现有的知识蒸馏算法需要大量带标签的人脸数据,可能会涉及身份隐私泄露等安全问题。同时,大规模采集有标签人脸数据的成本较大,而海量可采集或生成的无标签人脸数据却无法利用。为解决上述问题,本研究通过分析知识蒸馏在人脸识别任务中的特性,提出了一种无标签知识蒸馏的间接监督训练方法。该方法可以利用海量无标签的人脸数据,从而避免了隐私泄露等安全隐患问题。然而,无标签人脸数据集的数据分布无法预知,存在数据分布不均衡的问题,限制了间接监督算法的性能发挥。本研究进一步提出了一种人脸内容置换的数据增强方法,通过置换人脸部分内容平衡人脸数据分布,同时也增强了人脸数据的多样性。在保证精度的同时,压缩了模型的规模。另一方面,相较于通用设备,将模型部署在资源受限型设备上时,使用特定的嵌入式设备框架也可以使得模型拥有更快的推理速度。本文使用基于无标签知识蒸馏的间接监督训练方法进行训练,并通过人脸内容置换增强的数据增强方法来提升训练效果。最后本文将训练好的人脸识别进行NCNN前向推理框架加速并将其落地在嵌入式设备上,使其构成了一个完整的模式框架。充足的实验结果表明,人脸识别模型被大幅度压缩的同时,本研究训练模型的性能达到了先进水平,并在LFW数据集上超越了大型网络。在结合了前向推理框架并进行嵌入式部署后,模型的推理速度又可以进一步地提升,取得了又好又快的部署效果。
其他文献
神经精神疾病是脑功能网络的紊乱,可以通过复杂网络指标的变化来度量。然而,在相同的复杂网络指标上对相同神经精神疾病患者的脑功能网络进行的不同工作会得到不同的结论,在某些情况下,结论甚至截然相反。此外,现有文献仅从神经精神疾病患者的脑功能网络的拓扑结构方面进行了分析,并未考虑脑区上的信号。本文基于新兴的图信号处理(Graph Signal Processing,GSP),对多种神经精神疾病患者的脑功能
学位
目前,无人机广泛应用于各种巡检和监测任务,如工业设施、桥梁和古建筑的检测等。当检测目标结构复杂、规模庞大时,通常需要使用多架无人机协作完成。因此,如何高效的利用多架无人机执行检测任务是一个巨大的挑战。针对上述问题,本文以大型建筑物外表面的全覆盖视觉检测应用为背景,主要研究无人机三维覆盖路径规划方法,包括如下几个方面:以巡检路径长度为优化目标的三维覆盖路径规划方法。首先,在无人机安全飞行区域内构建航
学位
新型高强建筑用耐火钢以低Mo高Nb的成分体系设计有效降低了Mo的添加量(<0.3 wt.%),且不牺牲高温屈服强度。然而,在大线能量焊接(≥100 k J/cm)后,其焊接热影响区韧性将发生恶化。这种韧性的降低与M-A组元的含量、尺寸和形貌等因素有关,但各因素的影响机制尚未完全掌握。本文以Q345FRE复合型高强耐火钢为试验材料,采用了OM、SEM、TEM和低温冲击韧性测试等分析手段,研究了不同焊
学位
固体氧化物燃料电池(SOFC)相比于其他类型的燃料电池有着高效、燃料来源多样化、应用场景广泛等优势。传统的SOFC的工作温度较高,老化速率快,导致使用寿命有限。然而,工作温度的降低会导致阴极氧还原反应动力学过程变慢,阴极极化损失增大,显著降低其电化学性能,使得阴极材料的性能成为制约SOFC技术发展的关键瓶颈。本文以铜铁尖晶石氧化物为研究对象,通过系统的研究其物理化学性质和电化学性能,证实该材料作为
学位
SiC颗粒增强铝基复合材料由于其优异的高比强度、高比刚度、高耐磨性等力学性能和良好的可加工性,被认为是最具有竞争力的复合材料品种之一。液态金属搅拌法被广泛的应用于该复合材料的制备当中,其中,搅拌容器内流场和SiC颗粒分散行为直接影响复合材料的综合性能,对两者的探究可为液态金属搅拌法制备复合材料的工业应用提供参考。本文针对机械搅拌作用下SiC颗粒和流体两相流体系,以ANSYS-FLUENT为模拟平台
学位
保险公司在商业医疗保险决策中面临的主要问题是投保人的患病具有不确定性,因此提高其风险决策水平的一个关键因素在于:如何科学而准确的预测投保人患病的概率,以减少不确定性带来的损失。考虑到基于样本量固定的历史数据得到的静态预测模型不能利用新数据的产生来修正模型,为此本文尝试利用机器学习耦合蓄水池抽样建立动态预测模型,辅助保险公司开展智能风险决策。具体做了如下工作:第一,构建基于蓄水池抽样的动态预测模型。
学位
单分子电导测量技术是测量单个分子电学性质的技术,目前已不仅应用在分子电子学,还在物理化学、分析化学、生物传感和基因测序等领域都显示出了巨大的发展潜力。而单个分子中的氢键、金属离子的配位键、π-π相互作用、葫芦脲主客体之间以及O…S间等这种弱相互作用力对调控载流子迁移率具有重要影响,利用单分子电导测量技术对电子传输路径高度敏感的特点,对分子之间多种非共价键的弱相互作用在单分子水平上进行系统深入的研究
学位
在社会治理现代化的进程当中,社会组织成为了治理服务中不容忽视的力量。政府转移职能的需要和民众的需求使得越来越多的社会组织出现在社会治理服务当中,政府和社会对社会组织的要求也在不断提高,社会组织受到了各级政府和社会各界的广泛关注。由于受到当前各种社会环境因素的制约,社会组织能力和资源方面较为薄弱,根本无法依靠自身的力量获得较好的发展。在这一情况下,就需要各级政府下大力气抓好社会组织的孵化培育工作,来
学位
热电材料是实现热能与电能之间相互转化的功能材料,可用于温差发电及半导体制冷的相关领域,有助于缓解当下能源紧张、环境污染等问题。相比于传统热电材料,Zintl相Mg3(Sb,Bi)2合金所含元素丰度高且无毒,有着先天的低成本以及本征低热导率的优势。本文采用高温熔炼反应法结合放电等离子烧结制备了n型Te掺杂的Mg3(Sb,Bi)2热电材料,开展了以下研究工作:(1)探究了烧结温度、烧结保温时长以及退火
学位
建筑土地资源紧缺是我国社会发展面临的重要问题。震害调查和地震记录结果表明,建筑结构的震害不仅与近地表沉积物密切相关,同时也受到各类地形地貌的强烈影响。在地震灾害频发的今天,研究各类抗震不利地段的地震场地效应具有巨大的现实意义。本研究在收集大量地形、地貌的资料基础上,对抗震不利地段的强震动特征开展了相关研究:(一)收集整理了日本Ki K-net台站的钻孔数据,并根据其等效剪切波速情况进行了中国场地分
学位