论文部分内容阅读
多任务学习是机器学习和数据挖掘研究领域的前沿课题。多任务学习的目标是通过利用多个相关任务之间的内在相关性,来提高其泛化能力。在许多现实分类问题中,多任务学习已被证明相比于传统单任务学习更有效。比如,在智能交通上,生物信息学,web搜索排名,疫苗设计等等。但在一些真实应用中,多任务中存在不相关(异常)任务。与此同时,对具有高维特征的训练样本进行多任务学习时,特征维度往往是远大于训练样本的。为了同时解决多任务学习中的异常任务问题和特征选择问题,因此本文对多任务学习展开研究。本文的主要工作和贡献有三个方面: 1)我们把多任务学习的思想和属性学习的思想结合起来应用于人体行为识别问题。采用多任务学习方法来研究目标任务和属性任务之间的联系,并且充分利用其关系对行为识别问题进行建模,得到多任务行为识别模型。实验结果表明,我们的方法表现出了很强的竞争力。 2)在实际的行为识别应用中,基于迹范数正规化的多任务学习能够很好的学习任务之间的相关性,但训练出来的模型参数是稠密的,所以模型特征不具有较好的判别能力。为了解决这个问题,我们在模型参数训练过程中引入稀疏项,选出原始特征空间中具有较好判别能力的特征。为了快速实现上述低秩非光滑凸优化问题求解,我们引入自适应惩罚线性交替方向法,从而提高多任务行为识别的性能。 3)在绝大数的多任务行为识别方法中,它们假设所有的任务是相关的。但许多多任务行为识别方法存在异常任务。为了解决多任务学习问题中的异常任务问题,我们提出了基于任务相关结构的多任务行为识别。首先,我们可以通过流形学习构图法来构建任务权重相关图,该图能够详细描述任务之间的相关系,并且能够识别异常任务。然后,结合稀疏项作为多任务学习的约束项对多任务进行学习。最后,针对相关的不光滑凸优化问题,我们采用APM求解。