【摘 要】
:
随着科学技术的发展,特别是人工智能技术的兴起,任务型多轮对话系统逐渐成为学术界和工业界的研究热点。任务型多轮对话系统针对具体任务场景进行设计,通过与用户之间进行对话交互,收集所需信息,帮助用户完成特定任务。目前,任务型多轮对话系统主要有基于管道和基于端到端两种构建方式。基于端到端的方法由于存在对数据需求量较大、可解释性差和对话流程难以控制等问题。因此目前主流的做法是通过管道的方式构建任务型多轮对话
论文部分内容阅读
随着科学技术的发展,特别是人工智能技术的兴起,任务型多轮对话系统逐渐成为学术界和工业界的研究热点。任务型多轮对话系统针对具体任务场景进行设计,通过与用户之间进行对话交互,收集所需信息,帮助用户完成特定任务。目前,任务型多轮对话系统主要有基于管道和基于端到端两种构建方式。基于端到端的方法由于存在对数据需求量较大、可解释性差和对话流程难以控制等问题。因此目前主流的做法是通过管道的方式构建任务型多轮对话系统。管道式的实现方法将任务型多轮对话系统拆分成自然语言理解、对话管理和自然语言生成三大模块,各模块之间相互配合协作共同完成任务。管道式的任务型多轮对话系统将整个系统模块化,各模块可以根据具体任务场景自由替换,大大的提升了系统的灵活性,但该方法目前仍存有一些问题。一是自然语言理解模块将意图识别和槽位填充分开建模,没有利用两个子任务间的潜在关联。二是对话管理模块主要以规则实现的居多,没有利用人工智能技术的优势。三是任务型多轮对话系统普遍存在构建困难的问题,对非专业人士来说门槛较高。针对上述第一个问题,本文首先研究了自然语言理解中意图识别和槽位填充的联合模型,利用BERT做语义特征提取器作为两个任务的共享上下文信息,不同于以往的句子级别的意图识别,本文提出的模型利用字词级别的意图识别,通过集成学习的思想决出最后的意图。同时,在槽位填充阶段融合了字词级别意图信息,实验结果表明本文提出的模型在两个子任务上均有优异的表现,在两个数据集上的句子级别准确率分别提升了1.97和5.39个百分点。针对第二个问题,对话管理可分为对话状态跟踪和对话策略学习两部分,对话状态跟踪部分本文采用当前主流的基于规则方式实现。对于策略学习部分,本文提出了一种基于监督学习的对话策略学习方法,模型基于Transformer,利用单向自注意力机制获取对话历史中的有效信息,实验结果表明该模型在对话策略学习任务上的表现优于对比模型,当最大关注历史为2和10时,系统动作的F1值分别提升了0.16和0.08。和基于规则的方法一样,该方法也适用于冷启动的场景且具备一定领域迁移能力。针对第三个问题,本文结合以上两个研究内容,设计并实现了可配置任务型多轮对话系统,用户可自定义意图、实体及相应实例样本等信息,一定程度上降低了任务型多轮对话系统的构建难度。
其他文献
在智能化立体车库中,RGV作为重要的车辆运载装备,其运行精度、稳定性要求较高。传统RGV控制主要关注RGV软启动,定位准确性,对于柔性加减速控制关注较少。当前的加减速算法包括直线加减速法、指数加减速法、多项式加减速法、抛物线加减速法、S曲线加减速法等算法,存在加速度突变,不能体现柔性加减速的思想,或者算法复杂需要消耗控制器大量逻辑运算时间,抑或固定在控制器参数不方便调节。为此建立基于PLC控制的两
随着航天技术的发展和相关应用的深入,卫星等空间目标的数量日益增加,空间目标监测的重要性不断提高。而随着空间态势感知能力的提升,监测任务已不再局限于探测和跟踪,在轨姿态作为反映空间目标运动状态的重要参数,也受到了越来越多的关注。逆合成孔径雷达(Inverse Synthetic Aperture Radar,ISAR)具有全天时、全天候、远距离探测的能力,可以对目标进行高分辨率二维成像,获取目标的形
伴随着电子信息技术的高速发展,无人作战飞机(UCAVs)凭借其出色的作战能力和低维护成本,成为了世界各国在信息战上的焦点。无人机自出现后已经改变了现代战争形式,也已经发展出多种多样的军事用途,而具有低成本特性、能够协同作战的无人机集群将在未来战争中发挥优势,是未来战争中的关键。而未来战场中信息量爆炸,无人机能否获得有效的战场态势信息,形成有利的决策是无人机对抗研究中的基础和重点。应用强化学习方法的
数字图像是以二维数字像素组形式表示的图像类型,因其具有信息质量高、传输能力强、处理相对简单等特点而在众多领域得到了广泛应用,已成为日常生活中不可或缺的信息表达方式之一。近年来随着各种图像编辑软件的不断涌现,人们对图像的修改与编辑越来越容易,甚至能够轻松实现对图像内容的篡改与伪造,图像盗用、侵权等问题与日俱增,这对图像版权的保护无疑是一种巨大冲击。如何高效检测篡改图像并防止二次确权已成为图像内容版权
无人机被广泛应用在民用和军用领域的同时也对公共安全和航路安全等构成威胁,因此对无人机目标智能感知技术的研究具有重要的现实应用迫切需求。热红外成像设备由于具备全天时的监视能力因此被广泛用于监测无人机,然而在远距离红外成像条件下,无人机目标特征微弱且很容易受到复杂背景的干扰,这对无人机的鲁棒检测带来了严峻的挑战。传统的目标检测方法对无人机目标的特征表征能力和知识利用有限,对复杂真实场景感知能力差。因此
随着数字技术的发展,数字视频的应用和需求日益增大;然而视频采集常常受成像系统以及环境等因素的影响,导致视频分辨率较低而无法满足需要。基于软件方法的视频超分辨率重建技术能够将低分辨率视频帧融合成较高分辨率的图像,成为近年来计算机视觉方向的研究热点。目前基于深度学习的视频超分辨重建算法大多依赖帧间对齐而忽略了帧间时序相关性。本文从注意力机制的角度出发、融合时空信息,提出基于时空注意力机制的视频超分辨率
随着基于位置服务(Location-Based Service,LBS)的应用日益广泛,位置数据的规模也急剧膨胀,本地服务器负荷接近极限,将数据外包给具备海量存储空间和强大计算能力的云计算平台成为必然趋势。位置数据与个人隐私高度相关,用户通常将数据加密后上传至云端,从而预防云端获取任何有效信息,但是数据加密后不利于用户进行检索。因此,一个能够同时保障数据机密性和可用性的云端安全检索方案,可作为位置
近年来,由于互联网数据的爆炸式增长和多样化特点,跨模态检索成为了一个研究热点。跨模态检索就是利用一种模态类型的数据检索另一种模态类型的数据,可以帮助人们快速有效的利用不同媒体数据。哈希学习方法具有存储成本低、查询速度快的优点,利用哈希学习方法进行跨模态检索可以在一定程度上提高检索性能。然而,目前利用哈希学习进行跨模态检索的方法存在两个问题:一是现有的跨模态哈希方法只学习了数据的全局特征,全局特征表
2019年,一种需要指定聚类数和均值数的K-多均值聚类算法被提出。此算法是K-means算法的扩展,一方面运用了多均值聚类的思想,为每个类设置多个均值,从而解决K-均值算法无法处理非凸数据集的问题,另一方面借鉴K-means算法的理论,把多均值数据集的聚类任务转化成一个优化问题后,迭代更新每个样本点的所属均值和所属类,从而解决多均值聚类算法的均值融合问题。K-多均值算法相比同类算法而言,聚类效果更
在国家政策的鼓励支持下,集成电路(IC)行业进入快速发展阶段。正是由于IC的快速发展,使得模拟芯片也在近几年有了更加广阔的应用领域。其中逐次逼近型模数转换器(SAR ADC)作为一种常用的模数混合芯片,它具有低功耗,易制造,利于集成等优点,且在实际设计中,可以很好的适应工艺转变的需求,这些优点使它在工业控制,生物医疗,传感器网络等需要中等工作速度以及转换精度的领域受到了极大的青睐。随着这些领域对使