【摘 要】
：
高光谱图像具有丰富的空间信息与光谱信息,在环境监控,精准农业等领域具有重要的作用。随着深度学习的发展,基于神经网络的高光谱图像分类技术越来越成熟。但在一些需要模型增量式,持续式学习的高光谱图像分类任务中,或者在模型以往训练过的数据不能获取的情况下想要得到模型对新旧数据良好的分类能力时,模型往往会出现灾难性遗忘问题。增量学习方法可以解决这类问题。本文针对有回放的高光谱图像增量分类任务,做出了以下的探
论文部分内容阅读
高光谱图像具有丰富的空间信息与光谱信息,在环境监控,精准农业等领域具有重要的作用。随着深度学习的发展,基于神经网络的高光谱图像分类技术越来越成熟。但在一些需要模型增量式,持续式学习的高光谱图像分类任务中,或者在模型以往训练过的数据不能获取的情况下想要得到模型对新旧数据良好的分类能力时,模型往往会出现灾难性遗忘问题。增量学习方法可以解决这类问题。本文针对有回放的高光谱图像增量分类任务,做出了以下的探索:（1）提出了基于偏置修正的高光谱图像增量分类方法。灾难性遗忘问题表现为在一个新任务的数据训练下,模型会偏向于输出新任务数据中的类别,而忘记关于旧任务数据类别的分类能力。灾难性遗忘现象是由于增量分类任务中新旧类别数据样本极度不平衡引起的。偏置修正算法引进了一个偏置修正层来修正模型最后的全连接层偏向于新类别的输出分布。偏置修正层的训练通过少量且数量相等的旧任务数据和新任务数据来训练的,通过在多个高光谱数据集上开展高光谱增量分类实验,验证了偏置修正算法抑制灾难性遗忘现象的有效性。（2）提出了基于注意力蒸馏损失的高光谱图像增量分类方法。在偏置修正算法中,模型是分为两个阶段的训练,偏置修正发生在第二阶段,第一阶段为知识蒸馏。知识蒸馏只利用模型的输出来抑制模型对旧知识的遗忘,训练效率较低,没有充分利用高光谱图像丰富的特征信息。本文提出应用注意力蒸馏损失函数来提高模型第一阶段的训练效率。注意力蒸馏损失能利用模型内部参数与输入样本信息来抑制模型对旧知识的遗忘。通过在多个高光谱数据集上开展高光谱增量分类实验,验证了注意力蒸馏损失的加入能增强基于偏置修正的高光谱图像增量分类方法的性能。（3）提出了基于样本选择与数据增强的高光谱图像增量分类方法。本文针对基于偏置修正的高光谱图像增量分类方法中,在更新旧类储存空间时,随机选取新类样本和删除旧类样本的机制会错过更具有类代表性的样本的问题,提出了利用样本的模型特征向量与其所属类别的平均特征向量之间的距离作为样本对于所属类别的重要性,根据重要性来管理储存空间。并使用数据增强的策略来提高模型在训练过程中的样本多样性。实验证明所提出的基于平均特征向量的样本管理机制与数据增强策略能有效地抑制高光谱图像增量分类任务中的灾难性遗忘问题。
其他文献
利用超分辨率算法获取高分辨红外图像是解决当前我国红外成像器件制造水平低导致成像效果差、成本高昂难以满足需求的一种有效途径。基于多视图像的超分辨率算法以其更好的成像性能成为研究热点,其中又以深度学习超分辨算法最受关注。然而,现有深度学习超分辨率算法训练时用的样本对对应的并非真实的红外图像降质过程,且忽略了高-低分辨率图像的相互配准问题,使得其在实际应用中效果不理想。针对这一问题,本文提出了一种基于自
由于科技的发展,高维数据迅速出现在各行各业。噪声、冗余特征也随之而来,这加大了数据处理的工作量和难度。因此,数据降维是必须的。由于可以保留原始的特征,特征选择成为了降维的更佳选择。近年来,无监督特征选择算法越来越多,并且都取得了不错的效果。但是这些算法仍存在一些问题,比如伪标签间的相互影响被忽略、数据间的链接信息没有被充分利用以及使用谱聚类时不能保证伪标签的非负性等。为了解决这些问题,本文提出了三
在数据挖掘中,数据不平衡是世界上普遍存在的问题。然而,对不平衡数据进行分类的问题在不同部门中不时增加。为了克服一些标准的不平衡数据技术无法准确平衡多数类和少数类的挑战,用于不平衡数据分类的基于增强的合成采样（ABS）被提出了。ABS方法连接特征并增加现有样本的样本数量以生成合成数据。本文的主要研究贡献为:（1）本论文通过建模将输入数据与训练好的特征串联起来,确定输入数据中特征之间的关系,得到训练样
事件相机是一种新型视觉传感器,模仿了生物视觉系统的成像机制,具有高动态范围、高时间分辨率、低数据冗余的特点,在军用及民用领域均有重要应用价值。事件相机只感知场景中的变化信息。当事件相机中某像素感受到光强的变化时,会触发一个表示光强变化信息的事件,该事件包含触发像素的坐标和触发时间信息。事件相机以事件流的形式输出数据,而非传统相机的灰度图像。事件流形式的数据表示方式为非结构化的,给面向事件相机的数据
高光谱成像作为遥感领域的重要分支,因其极高的光谱分辨率,在地物高精度分析方面具有着不可替代的优势,在国防建设与经济发展中的众多领域都有着极为广泛的应用。因此,高光谱图像的高精度分类已经成为高光谱图像处理中的重要课题。但是,在高光谱图像中,一些噪声与冗余波段对其传输与分析处理带来了困难,这使得高光谱波段选择的重要性越发凸显。深度学习的蓬勃发展展示了其强大的学习与表征能力,相关方法与高光谱处理领域的结
细粒度图像识别研究近年来逐渐兴起,在无人零售、智慧交通、人机交互等方面具有广泛应用。本文就transformer在细粒度图像识别领域存在空间特征提取粒度过于粗糙及模型参数过大存在计算冗余两大弊端分别展开研究,一方面,进一步细化transformer的特征提取粒度,另一方面,在保持理想识别精度的情况下压缩其参数量、去除冗余计算,便于实际应用。本文的主要的研究内容及技术创新如下:第一,针对原始tran
人体姿态迁移旨在目标姿态的引导下,将原始图像的人物姿态转换至相应的目标姿态,并保持人物身份和外观的一致性。该研究在游戏绘画、电影制作和虚拟试衣等领域具有极大的商业前景,此外,该研究还被应用于去伪检测和行人重识别研究课题,作为数据增强的解决方案。近年来,随着人工智能浪潮的来临,人体姿态迁移技术得到了快速发展,在姿态迁移准度、多姿态泛化性能以及商业落地应用等方面均有显著进步与提高。然而,当前人体姿态迁
计算机视觉在工业生产、物体检测、先进的车辆安全系统等领域的广泛应用中发挥着至关重要的作用。然而下雨等特殊天气导致所拍摄的图像质量下降和细节丢失,从而影响物体检测、自动驾驶车辆检测和监控设备等任务。因此,对获得的图像进行图像恢复以生成干净的图像,有利于提高目标检测算法的准确性。本文使用Efficient De Rain算法提高物体检测率和准确率。它将作为图像的预处理,并通过深度学习算法进行对象检测。
在底层计算机视觉任务中,超分辨技术通过增加图像的空间分辨率,提供更多语义信息来弥补成像设备的不足。传统图像超分辨方法将其建模为优化问题,引入先验作为约束条件,来逼近真实图像,但存在人工设计先验单一、无法满足实时需求的问题。基于深度学习的方法利用大规模数据的优势,在图像超分辨上取得更好的视觉效果。然而,现有工作对任意倍数超分任务的研究较少,且精度最优模型的参数量巨大,难以在边缘设备上部署。针对上述问
推荐系统是解决信息过载问题的关键技术,通过挖掘用户的属性信息、物品的属性信息以及用户的历史行为日志来分析用户的兴趣偏好并为用户生成推荐列表。本文对物品评分预测和会话推荐两个推荐场景进行了研究,设计了三个推荐模型,有效提升了推荐性能,具体工作如下:（1）现有的物品评分预测方法通常为用户和物品的特征设置统一固定维度,并且假设特征嵌入维度之间彼此独立,对用户和物品在不同空间维度中的交互特征提取不充分,导