基于深度学习的语义推理技术

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:zhangxinyao1121
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
语义推理技术是自然语言处理中的一项基础而重要的技术,能够帮助我们更好地理解文章的内容及上下文的语义推理关系。语义推理一般分为论据和论点两部分,论据是从文章内容中提取的支撑文章论点的材料,是用来证明论点的理由和根据;论点是对所论述的论据的正确理解,是对文章中所提出的某一个主要的思想观点的概括。语义推理技术是判断论点和论据之间的语义信息是否存在蕴含关系。提高语义推理的准确率有助于增强人工智能对自然语言的理解能力。在自然语言发展的初期,人们通常使用词典、语法树或逻辑表达式的方式获取文本之间的浅在的语义推理关系。随着神经网络在自然语言处理上的应用以及注意力机制和迁移学习的快速发展,人们开始侧重于挖掘文本之间更深层的语义推理关系。并且希望通过相似任务之间的知识共享,从而加快并优化模型的学习效率。在此基础上,本文主要从以下三个方面进行语义推理技术的研究:1.基于长短期记忆网络的语义推理技术。主要使用长短期记忆网络对论点和论据进行语义向量编码,使用双线性或者全连接计算论点和论据的语义推理关系。2.基于长短期网络和注意力机制的语义推理技术。首先使用长短期记忆网络对论点和论据进行语义向量编码。之后使用注意力机制加强论点和论据中的重要单词信息的权重,让模型具备更强的语义向量表示能力。最后,将使用注意力机制编码后的语义向量表示,用全连接或者双线性计算语义推理关系,预测前提句与推论句的语义推理关系。3.基于迁移学习与模型融合的语义推理技术。使用迁移学习技术,让语义推理模型从大规模语义推理数据集中学习丰富的语义向量表示和语义推理表示,之后将学习到的知识迁移到目标任务当中,使目标任务的语义推理模型能够快速拟合当前任务。本文还使用了集成传统特征与深度学习的语义推理模型,将深度学习模型挖掘的语义推理特征与浅层的语义推理特征融合,全方位多角度的挖掘文本之间的语义推理关系。
其他文献
在漫漫的人类历史长河中,实现个性化学习一直是教育领域孜孜以求的奋斗目标。互联网出现后,研究者开始关注如何运用网络这个学习传递平台来实现个性化、适应性学习,以更好的
随着3G时代的到来,SVG做为XML在图形图象方面的应用越来越广泛,已经成为二维图形成像的既定标准和MMS的主流技术。而嵌入式移动产品这类低端设备作为潜在的、巨大的市场理应
随着计算机和图像处理技术的发展,数字图像拼接技术在现实生活中发挥着越来越大的作用,其应用前景也越来越广泛。本文详细阐述了图像拼接技术的关键技术要点,并从特征点匹配和光
连接查询操作是联机分析处理系统(OLAP)的重要操作之一,也是企业决策人员从海量数据中提取信息的重要手段。而多表连接运算一直是连接查询操作的主要瓶颈。随着大数据时代的
随着卫星技术和计算机技术的飞速发展,数字遥感卫星影像已经在各行各业中发挥着越来越大的作用。但是遥感卫星影像在实际应用前必须经过预处理,而目前的处理方法还存在着很多
作为一种特殊的分布式计算框架,网格的动态、异构、多域等特性决定了网格安全的重要性。网格安全主要是解决实体之间的认证和授权问题。Globus项目中的安全基础设施GSI(Grid
Internet中存在着大量的化学信息资源,在这些海量信息面前,用户要查找自己需要的信息,必须要借助于搜索引擎。目前,很多化学结构信息采用了系统命名法、线性码等方法进行描述
伴随着计算机网络技术和多媒体技术的飞速发展,多媒体数据逐渐成为人们获取信息的重要来源,并成为人们生活的重要组成部分。随之而来的副作用是有恶意的个人或团体有可能在没
随着多媒体技术和网络技术的日趋成熟,在互联网发展内在需求的驱动下,作为两者交叉领域的流媒体技术的应用和研究也取得了长足的进步。多媒体数据量大,对网络带宽要求很高。
近年来,基于P2P网络的资源共享技术发展迅速,P2P数据库是该领域的一个重要研究方向。P2P数据库内容认证,即判断数据库内容是否被篡改,是成功构建P2P数据库系统的关键之一。通