一种基于BERT的自动文本摘要模型构建方法

来源 :计算机与现代化 | 被引量 : 0次 | 上传用户:xiaosongs
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对传统词向量在自动文本摘要过程中因无法对多义词进行有效表征而降低文本摘要准确度和可读性的问题,提出一种基于BERT(Bidirectional Encoder Representations from Transformers)的自动文本摘要模型构建方法。该方法引入BERT预训练语言模型用于增强词向量的语义表示,将生成的词向量输入Seq2Seq模型中进行训练并形成自动文本摘要模型,实现对文本摘要的快速生成。实验结果表明,该模型在Gigaword数据集上能有效地提高生成摘要的准确率和可读性,可用于文本摘要
其他文献
针对单轴并联混合动力客车结合离合器的模式切换,设计了发动机已启动和未启动时模式切换的控制策略.对于发动机未启动的模式切换,考虑离合器滑磨功和驾驶员需求,提出了在挡启
一般贸易的进出口操作对于获得对外贸易经营权的外贸公司和企业来说并不难。一般贸易进口时仔细确认所进口商品的海关编码及其所对应的海关监管条件办妥相应的进口许可证明(
随着计算机技术、网络技术的发展和文献信息资源的建设,图书馆局域网在为读者提供高效、便捷的信息检索服务过程中,其优势已越来越明显。但现在的图书馆还没有做到7*24开放,闭馆
依据2000年第五次全国人口普查数据显示,我国人口问题的主要特点:一是人口数量多。全国总人口数达12.95亿人,占世界总人口的1/5以上。二是人口素质有待提高。人口普查粗文盲率
研究目的 体外扩增弓形虫4个不同分离株侵入相关分子ROP1基因;构建原核及真核表达重组质粒并表达;用DNA免疫技术将真核重组质粒pcROP1直接免疫小鼠,以了解ROP1基因的遗传稳定性;
T淋巴细胞在免疫反应中起着重要的作用,其中之一是细胞毒性反应,即T淋巴细胞通过裂解作用杀伤表达特异性抗原的异常细胞。具有这种细胞毒性作用的T细胞的表面抗原大部分是CD8阳
本文收集整理了我国图书馆学博士点2005年招生研究方向、入学考试科目以及课程设置的相关数据。在此基础上,比较系统地分析了我国图书馆学博士研究生教育的现状、规律与趋势;
在移植免疫中,T淋巴细胞在双信号刺激下才能被激活和发生增殖,从而启动由淋巴细胞、细胞因子、补体等参予的错综复杂的移植排斥反应。如果抗原提呈细胞(antigen present cell,AP