排序学习中的领域自适应研究

被引量 : 0次 | 上传用户:lwh_bbs
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着监督式机器学习技术在各个领域的广泛应用,研究人员逐渐意识到,训练数据的缺乏是阻碍学习模型快速部署的关键因素之一。最近几年,如何解决训练数据缺乏的问题,已经成为机器学习,自然语言处理,信息检索、多媒体等领域的研究热点。排序学习是信息检索的关键问题之一。目前,基于监督的机器学习技术被认为是解决排序学习的最佳选择。如同传统监督式学习技术,目标领域缺乏训练数据也是排序学习正在面临的实际问题。针对排序学习,我们研究了如何利用其他相关领域的己有训练数据,学习出适用于目标领域的模型,即领域自适应。本文的主要贡献有以下几个方面:1.提出了基于文档权重的排序学习自适应框架。首先,利用领域分隔超平面估计源领域文档对目标领域的重要性;然后,把这些文档权重转换成文档对权重;最终,文档对权重可以集成到基于文档对的排序学习算法中。2.研究了著名的排序学习算法RankBoost的领域自适应问题。在基于文档权重的排序自适应框架下,提出了三种基于文档权重的RankBoost算法,并分别对它们进行了理论分析和试验比较。3.提出了直接在查询层次估计源领域查询对目标领域重要性的方法。在排序学习中,查询是带有相关性标签的文档集合,是排序学习的基本对象。我们分别从两个不同的角度进行查询权重估计:(1)将查询压缩成特征向量,然后采用传统的权重估计方法进行查询权重估计。(2)对每个源领域的查询,把它依次和目标领域查询进行比较;通过集成这些两两比较的结果,估计源领域查询对于目标领域的重要程度。4.提出了基于主动学习的排序学习自适应算法。为了获得目标领域特有的排序知识,采用主动学习技术,选择少量目标领域具有信息量的查询进行标注。这些查询可以弥补源领域所缺失的目标领域排序知识,同时,利用这些目标查询评估源查询对目标领域的重要性权重,从而充分利用源领域的训练数据。5.将领域自适应技术应用在语义实体识别中,提出了利用领域独立特征来增强领域自适应能力的方法。传统实体识别仅仅使用短文本特征,当训练文档和测试文档在风格上稍有差异时,性能便有明显下降。为解决该问题,我们设计了一个CRF与SVM的组合框架,通过该框架,短文本特征与领域独立特征可以有效的集成,最终获得的识别模型能够更好地适用于目标领域。针对不同的应用场景,本文研究了排序学习中的领域自适应问题。在目标领域没有标注数据的场景下,我们从样本权重的角度,研究了基于权重的排序学习领域自适应;在目标领域存在少量标注预算的场景下,我们研究了基于主动学习的排序自适应算法。另外,我们还研究了领域自适应在语义实体识别中的应用。从特征的角度,我们探讨了基于领域独立特征的语义实体识别领域自适应。我们在标准数据集上评价了算法的有效性。在实际应用中,比如多媒体新闻推荐,热点事件检测,情感分析,通用搜索,垂直搜索等等,通过本文提出的领域自适应技术,可以充分利用已有其他相关领域的标注数据,降低目标领域的标注成本,同时获得满意的目标领域模型。
其他文献
当前我国的教育学理论研究,一个突出的特点就是把国外最新的哲学、社会学、人类学、心理学等理论移植、搬运、嫁接到教育领域,从而形成教育理论,如建构主义教育理论、对话教
蹦床项目进入奥运会短短的十几年,我国的蹦床项目运动技术训练水平方面取得了质的飞跃,并在国际性的大赛中取得了优异的运动成绩,对于如何保持并不断的提高这种状态,使蹦床项
推进社会主义新农村建设,是党中央提出的一项惠及广大农民切身利益,关系全面建成小康社会和和谐社会建设的战略举措,财政作为支持和保护农业的基本手段,应当不断完善公共财政
20世纪中国诗学的建构完成了从形式论到语言论的创造性转换过程,这种转换的原因既有西方哲学与语言学的影响,也有西方语言诗歌的启示,而更重要的是中国当代诗歌自身发展要求
"一切演员——形象的创造者,毫无例外的都应该再体现和性格化。"演员通过自身的形体、动作、姿态、表情、风度、语言、声调等等把现实生活中人物形象逼真、无雕琢痕迹地展现
作为一部小人物叙事,《耳朵大有福》以一种纪录片式的叙事方式,全面、立体地再现了当下小人物的酸甜苦辣,这种叙事既是对知识界人文主义精神的一种内在延续,同时也体现了创作
化学实验室作为中职化工类专业实验教学的主要载体,其建设和管理的好坏,直接关系到教学质量的优劣。为了保证实验教学的正常进行,需要解决实验室的安全问题。文章从中职学校
【研究背景】近年来,随着广谱抗生素、免疫抑制剂等药物在临床上的广泛应用及骨髓移植等医疗手段的不断推广,肺真菌感染发病率日趋上升,其中是最常见的肺真菌病之一肺隐球菌
我国正处于工业化、城镇化进程加快的时期,能源的需求日益增加,因此能源的生产结构是否合理成为制约我国经济发展的瓶颈。本文首先分析中国能源供应与需求现状:中国目前正处于