【摘 要】
：
伴随着互联网、云计算、5G技术以及自媒体行业的不断发展,人们每天所产生以及获取的信息越来越多,并且这些信息大部分都以文本的形式存在。自动文本摘要技术能快速地帮助人们在海量文本中获取主题明确、可读性高的信息。针对传统基于深度学习的文本摘要技术无法生成高质量的长文本摘要问题,本文探究了一种基于强化学习的深度代理文本摘要生成技术。主要工作如下:（1）面对循环神经网络在对长文本进行编码时容易丢失先验信息的
论文部分内容阅读
伴随着互联网、云计算、5G技术以及自媒体行业的不断发展,人们每天所产生以及获取的信息越来越多,并且这些信息大部分都以文本的形式存在。自动文本摘要技术能快速地帮助人们在海量文本中获取主题明确、可读性高的信息。针对传统基于深度学习的文本摘要技术无法生成高质量的长文本摘要问题,本文探究了一种基于强化学习的深度代理文本摘要生成技术。主要工作如下:（1）面对循环神经网络在对长文本进行编码时容易丢失先验信息的问题,提出了一种信息共享的深度通信代理模型。该模型将长短期记忆网络划分为不同的代理,每个代理负责对源文本的一部分进行编码。之后,每个代理会将自己的编码结果进行广播,使得所有代理可以共享全局的上下文信息。在完成最终编码后,模型通过一个上下文代理注意力机制整合来自多个代理的信息,并将其传给解码器,进而优化长文本摘要生成的过程。（2）为了让主题词尽可能的出现在生成摘要中以提高其质量,提出了一种可以在模型中加入主题信息的联合注意力机制。首先分别通过word2wector技术与卷积神经网络对单词与文段进行编码,之后通过计算二者之间的欧氏距离,对关键词进行提取。最后使用主题注意力机制将编码后的主题词进行线性组合,与上下文代理注意力机制形成联合注意力机制,通过偏差生成的方式,提升主题词在最终生成摘要中出现的概率。本文在CNN/Daily Mail与NEW YORK TIMES数据集上进行试验。为解决曝光偏差问题,采用带有强化学习的混合训练方法对网络进行端到端的训练,并使用基于召回率的ROUGE评价指标来评估生成的摘要。实验结果表明,训练后的模型所生成的长文本摘要不仅获得了较高的ROUGE评分,还具有较好的概括性与较高的可读性,验证了本文所提出的基于强化学习的深度代理文本摘要模型的先进性。
其他文献
在科学研究和工程技术领域,优化问题无处不在,但这类问题往往带有复杂的约束条件使搜索过程复杂化,加大了解决问题的难度。在过去的几十年里,进化算法被广泛应用于求解优化问题。然而,单纯只用进化算法来解决约束优化问题是不准确的,因为它们不能直接减少约束问题的约束偏移。因此,对于约束优化问题,如何能够设计出有效处理约束且能找到最优解的算法即为本文的研究重点。本文主要从进化计算中约束处理技术的角度出发,结合有
近几十年来,多智能体系统的分布式协同控制引起了越来越多研究者的关注,其研究方向涉及传感器网络、编队控制、一致性问题、航天器姿态跟踪控制、分布式优化计算和控制工程等各个领域。一致性问题是多智能体分布式协同控制的基本问题,其目标是指一组智能体基于局部交互规则在一定的物理量上达成一致。在现有的研究基础上,本文研究了二阶多智能体系统的一致性问题,主要从以下两个方面展开研究:在实际的多智能体系统中,由于智能
随着科技的迅猛发展,许多工程应用都需要大量的决策变量来解决问题,这种大规模问题的优化将对现有的优化算法提出挑战。由于决策变量的数量较大,所以问题的搜索空间也是巨大的,甚至是无限的,这就使得问题难以入手求解。此外,在这巨大的探索空间中,必然存在着许多伪全局最优值,这些值将影响算法并使其陷入局部最优,从而失去了搜索全局最优的机会。针对大规模问题的优化,通常使用两种优化技术:一是基于分解技术的协同优化框
神经网络的发展和大型数据集的增多,以及计算机硬件运算能力的提升,使得基于深度学习的技术在单模态（图像、文字、语音）已经取得的巨大的发展和应用。但是,多模态理解和交互等人类高级认知和推理功能还是很弱。针对这个问题,本文研究多模态交互领域一个极其重要的研究课题——视觉问答（VAQ）。视觉问答涉及图像和文本两个模态的信息,由于卷积神经网络（CNN）和循环神经网络（RNN）分别在图像和文本上的突出表现,许
随着汽车自动避障技术和服务机器人的逐渐发展,路径规划已经成为了移动机器人技术领域的热点问题。作为人工智能领域的深度强化学习由于不需要人工标记和不需要依赖先验知识的优势,目前多个领域已经结合实际应用对其进行了研究开发,同样在机器人路径规划任务中也有该方向的研究。本文使用单目相机作为机器人的感知手段,研究基于深度强化学习的室内自主避障问题。首先,在编码器-解码器网络结构的基础上,采用监督训练的方式,提
随着机械制造技术的飞速发展,高速电主轴成为了当今数控机床的核心部件,对其性能的要求也越来越高。电主轴是否具有优良的动态特性成为了确保机床加工精度高低的必要条件。轴承受预紧力的作用影响其接触刚度,高速时转速的变化导致轴承摩擦热的产生影响了接触变形进一步影响接触刚度。轴承作为电主轴的支撑部件其刚度又决定着电主轴的动态特性。本文以赫兹接触理论、摩擦理论、传热学、转子动力学理论为基础,分析多工况条件下的电
随着互联网的快速发展,网上产生了大量的产品评论,这些产品评论中往往蕴涵着许多有价值的信息,通过分析在线产品评论的情感倾向可以为用户和商家的决策提供支持。目前,互联网文本评论的情感分析已经成为文本挖掘的热门领域,基于神经网络的情感分析方法虽然克服了机器学习方法存在的特征提取困难的问题,但是神经网络仍然存在无法感知不同单词的重要程度、无法学习句子的内部结构和无法利用单词的位置信息等问题。同时,产品评论
随着科技的进步以及工业和制造业的快速发展,机器人逐渐被人们熟知并扮演越来越重要的角色。近年来,移动机器人以结构简单、易于控制、适合二次开发等优势成为研究热点。而在移动机器人领域的众多研究方向中,避障以及安全性研究是其中非常基础与重要的内容。本文以移动机器人为研究对象,对移动机器人在多种障碍物环境中的避障性能以及安全性、实用性问题展开深入研究,并以Turtle Bot3机器人为实验平台,利用ROS（
对船舶发动机燃烧室的温度场进行二维测量,对于改善发动机的燃烧效率、提高使用寿命以及实现节能减排具有重要意义。针对非接触、高时空分辨率等测量需求,本文基于可调谐半导体激光吸收光谱（TDLAS）技术,结合卷积神经网络（CNN）算法,开发了一套二维温度场测量系统,旨在用于发动机燃烧室的燃烧温度场的二维重建。第一,发展了一种基于CNN的二维重建算法。首先对水蒸气的吸收谱线进行优选,确定H2O在6807.8
随着我国老龄化问题日渐严重,大家开始重视老年人生活各项问题,为了改善脑卒中老年人和弱能老人的生活质量,迫切需要能够帮助他们恢复行走能力的设备。在过去的十年中,外骨骼等机器人辅助设备研发能力取得了巨大的进步,有些产品已经商业化。但是长期以来,对老龄下肢助行外骨骼机器人的研究主要集中在技术和机构上,对老年患者心理认知和知觉需求的研究相对较少。且市场上大多数产品风格单一,造型生硬,没有真正满足老年人的使