论文部分内容阅读
随着大数据以及计算力的快速发展,机器学习尤其是深度学习在很多领域都取得了长足进展。现在的机器学习算法都需要大量的训练数据集,通过训练进而实现准确的目标分类。但是大量的手工标注数据集都是依靠人力成本建成,而标注大量的样本又非常费时费力。同时,在实际应用中,样本之间由于生成环境的改变,大多数存在分布差异,尤其在航空航天领域,样本数据之间的分布差异更加明显,传统机器学习方法通常需要满足数据的分布不随环境改变这一基本假设。迁移学习放宽了传统机器学习中训练数据和测试数据必须服从独立同分布的约束,因而能够实现知识的跨域迁移,是解决小样本识别的有效方法。本文重点解决基于迁移学习的小样本识别中的欠适配、欠拟合、负迁移等挑战性的问题。首先提出了基于局部与全局结构化保持的流形学习方法,在知识迁移的过程中,保证重要信息与结构的保留,融合局部与全局结构化的流形保持,充分挖掘大量不带标签样本中的信息,探寻结构化特征,一定程度上解决了负迁移问题。然后提出基于深度最优测度的迁移学习,在深度神经网络的基础上引入特征方差的概念,有效地提高了分布差异的度量,实现在减少中心特征差异的同时,尽可能的保持特征的可区分性,保证更好地减少领域分布差异,来解决欠适配问题。最后提出基于联合特征匹配与对抗学习的迁移学习方法,该方法从局部和全局两个层面来减少域特征分布差异以及挖掘域不变特征,并将其嵌入到一个统一的卷积神经网络中进行端到端训练,来解决欠拟合以及欠适配问题。