基于ALBERT与多头交叉注意力的阅读理解模型

来源 :信息与电脑 | 被引量 : 0次 | 上传用户:abc124333
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对目前机器阅读理解任务中文章和问题缺乏有效信息交互导致准确率较低的问题,笔者提出基于ALBERT的多头交叉注意力模型.通过Albert模型和多头交叉注意力相结合,能够有效提高自动问答的效果.通过在常规数据集Squad2.0上进行测试,与目前现有模型进行对比实验,证明ALBERT的多头交叉注意力模型能够显著提高阅读理解任务的准确率.
其他文献