【摘 要】
:
半监督分类是图像分类领域的一个重要研究方向,它用少量的标记数据训练分类器,用大量的未标记数据辅佐训练过程,达到提高分类器性能的目的。伴随着深度学习的不断发展,半监督分类技术得到了质的提高,成为当下处理大数据分类问题的重要研究方向。如何充分利用未标记数据将是提升半监督模型分类性能的关键所在,同时,其性能的好坏很大程度依赖于网络结构、损失函数和分类器等多种因素的影响。本文针对半监督深层生成网络模型未能
论文部分内容阅读
半监督分类是图像分类领域的一个重要研究方向,它用少量的标记数据训练分类器,用大量的未标记数据辅佐训练过程,达到提高分类器性能的目的。伴随着深度学习的不断发展,半监督分类技术得到了质的提高,成为当下处理大数据分类问题的重要研究方向。如何充分利用未标记数据将是提升半监督模型分类性能的关键所在,同时,其性能的好坏很大程度依赖于网络结构、损失函数和分类器等多种因素的影响。本文针对半监督深层生成网络模型未能够充分应用未标记数据的问题,在梯形网络的深层神经网络框架的基础上,引入虚拟对抗训练和Large-margin Sofmax损失函数等约束,提出基于改进梯形网络的半监督虚拟对抗训练模型和基于梯形网络和改进三训练法的半监督分类模型,主要研究成果如下。1.针对半监督深层生成模型容易造成过拟合的问题,提出一种基于改进梯形网络的半监督虚拟对抗训练模型。该模型在梯形网络框架的基础上,以mix_up数据增强和虚拟对抗训练相结合的模式训练分类器。首先,用mix_up对训练数据做增强处理得到新的扩展数据,以解决半监督分类模型有标记样本较少的问题。接着,对梯形网络框架施加虚拟对抗噪声,通过构建平滑性正则化约束,提高模型的泛化能力。最后,模型以有标记数据的分类损失、未标记数据的重构损失和虚拟对抗损失相结合的方式调整参数,训练得到分类器。模型分别在MNIST、SVHN和CIFAR10数据集上进行实验,并且与其他半监督深层生成模型进行对比,结果表明本文所提出的模型能有效的增强泛化能力,提高分类精度。2.为了提高半监督深层生成模型的分类性能,提出一种基于梯形网络和改进三训练法的半监督分类模型。该模型在梯形网络框架有噪编码器的最高层添加三个分类器,结合改进的三训练法提高图像分类性能。首先,用基于类别抽样的方法将有标记数据分为三份,模型以有标记数据的标签误差和未标记数据的重构误差相结合的方式调整参数,训练得到三个Large-margin Softmax分类器;接着,用改进的三训练法对未标记数据预测、添加伪标签,并对新的标记数据分配不同权重,将新的标记数据添加到初始训练集中;然后,利用更新后的训练集训练模型。训练完成后,对分类器进行加权投票,得到最终的分类结果。模型得到的梯形网络的特征有更好的低维流形表示,可以有效地避免因为样本数据分布不均而导致的分类误差,增强泛化能力。模型分别在MNIST、SVHN和CIFAR10数据集上进行实验,并且与其他半监督深层生成模型进行了比较,结果表明本文所提出的模型得到了更高的分类精度。
其他文献
在高铁地面信号设备系统中,为了测试列控中心的功能,需要人力资源搭建场地,部署测试环境;需要在列控中心仿真机柜中借助物理通讯板卡软件来实现列控中心与外围高铁地面信号设备进行信息交互;需要部署外围高铁地面信号设备的环境。因此,浪费了成本、人力和物力。为了节约成本,为了加快测试列控中心的功能,给信号测试人员提供便利,需要设计高铁地面信号设备仿真系统,提升测试效率。本文首先对被仿真对象(物理通讯板卡软件、
“互联网+回收”是对传统回收方式的一场变革,将互联网思维、技术和模式融入回收产业链,实现回收模式转型升级。“互联网+”手机回收模式使得弃用手机便捷高效、规范安全的回收处理成为可能,然而作为极佳的电子商务模式,其运营绩效并不理想。面对日益增长的回收需求与惨淡经营的回收现状,探究回收模式运营绩效影响机制,揭示模式绩效欠佳的缘由并设计合理的回收激励政策至关重要。“互联网+”手机回收模式是由多方回收主体、
智能机器人作为人工智能新兴产品之一,具有非常广阔的未来市场。如何实现机器人的定位是机器人智能化的核心问题之一。同时定位和地图构建算法(Simultaneous Localization and Mapping,SLAM)是目前最主流的机器人定位算法。视觉SLAM是指系统输入信息只有来自相机的视觉信息(图像或视频流),通过视觉信息计算得到相机位姿等信息。基于特征点法的视觉SLAM是目前较为常见的机器
船舶的动力定位是指船舶不依赖于锚泊系统,而是依靠自身的推进系统产生动力来抵御外部海洋环境干扰的影响,在海面精准定位或遵循预设路径航行的装置。动力定位系统不仅具有定位精度高、机动性能强的优点,而且还具备不受水深和地域限制等特点,被广泛使用在救援船、供给船、铺管船以及石油钻井平台等海洋工程的应用中。目前,对单艘动力定位船舶的各类研究已取得了较为丰硕的成果,但对多艘船舶的控制问题一直未有大的进展。然而伴
现代战场范围已在过去传统的海、陆、空三维空间基础上增加了电磁和航天这两个维度,形成一个五维空间。单部雷达的对抗能力不足以有效应对国际战争中各种复杂的电磁干扰环境,将多部雷达进行联合组网已成为一种扩展雷达各方面能力的必然趋势。随着各种欺骗信号的逼真度越来越高,在信号层面识别干扰的难度逐渐加大,欺骗信号通过信号层的判别而进入数据处理层的情形在所难免,故需要在数据层加以判别。本文以组网雷达对目标跟踪过程
语音增强是一种减少含噪语音中背景噪声的有效方法,单通道的语音增强则是最普遍的应用需求之一。鲁棒主成分分析(RPCA)是一种实现矩阵低秩稀疏分解的理论模型,可以从数据矩阵中恢复组成该矩阵的低秩分量与稀疏分量,已被广泛应用在音视频处理、计算机视觉、雷达信号处理等领域。由于语音和噪声的时频谱图分别具有稀疏特征和低秩特征,因此可以利用RPCA将含噪语音的时频谱图分解为语音部分和噪声部分,实现语音与噪声分离
挂靠,是指不符合资质等级要求的企业单位通过资质借用从事工程建筑经营活动的行为。在我国建筑工程领域,通过挂靠方式弥补主体资质缺陷,已作为工程建筑的一条“捷径”,成为该行业公开的“秘密”。挂靠行为的禁而不止,论其原因,主要归咎于我国市场经济环境发展的自发性,对经济利益的追逐,使得挂靠行为难题迟迟得不到解决。针对工程挂靠现象,当前存有两种观点,其主流观点是对挂靠行为持否定态度,认为挂靠现象的发展,不仅造
税务机关是我国的重要经济职能单位,承担着保证财政收入、落实税务政策、服务企业发展、促进社会经济的重要功能,近年来,税务机关在建设服务型政府的工作要求下,对政府人力资
金属氧化物ZnO和TiO_2均为宽禁带半导体,具有物理及化学稳定性高、抗辐射性能好、价格低廉等优势,一维纳米结构的ZnO和TiO_2具有大比表面积、载流子定向传输的特点,已经广泛地应用在生物传感器、光催化、太阳能电池、阻变存储器以及紫外光探测器等多个领域。由于化学生长的一维纳米结构的形貌以及薄膜的均匀性难以精确控制,增大了光电子器件中的接触电阻,限制了载流子传输和器件的工作稳定性;大量的表面态和缺
实施精准扶贫是实现全面建设小康社会以及中华民族伟大复兴目标的重中之重;某市在积极推进精准扶贫工作并取得诸多成效的同时也面临一些问题;有关部门在制定扶贫政策时未充分考虑当地现状,所制定的政策难以满足扶贫对象的实际需求;扶贫人员现场造访扶贫行为缺乏统一行动标准,降低精准扶贫的规范性和针对性;此外扶贫人员难以及时上报现场扶贫情况。因此需要开发精准扶贫管理系统解决某市的扶贫工作问题。精准扶贫管理系统包括W