【摘 要】
:
近年来数据量的爆炸、算法的不断改进、硬件的持续创新使深度学习理论与应用发展迅速。在自然语言处理领域许多问题中,使用深度学习方法的效果优于传统方法。文本分类是自然语言处理的重要应用之一,多年来一直被广泛研究。文本表示与选择神经网络是使用深度学习方法解决文本分类问题的关键步骤,对于文本分类效果有着决定性的影响。目前,主流的文本表示方法有One-Hot与词嵌入两种,常用的神经网络包括标准神经网络、卷积神
论文部分内容阅读
近年来数据量的爆炸、算法的不断改进、硬件的持续创新使深度学习理论与应用发展迅速。在自然语言处理领域许多问题中,使用深度学习方法的效果优于传统方法。文本分类是自然语言处理的重要应用之一,多年来一直被广泛研究。文本表示与选择神经网络是使用深度学习方法解决文本分类问题的关键步骤,对于文本分类效果有着决定性的影响。目前,主流的文本表示方法有One-Hot与词嵌入两种,常用的神经网络包括标准神经网络、卷积神经网络、循环神经网络。为了探究上述因素的影响,针对英文短信过滤和中文新闻标题分类两个真实场景设计了多组实验,比较了上述主流技术组合的效果及效率。实验结果表明词嵌入的文本表示方法比One-Hot更适合文本分类。例如,在英文短信过滤场景下,词嵌入的准确率比One-Hot最高有6.84%的提升。在文本分类问题中,循环神经网络优于卷积神经网络,卷积神经网络优于标准神经网络。例如,在中文新闻标题分类场景下,使用词嵌入的文本表示方法,循环神经网络的准确率比卷积神经网络高2%,卷积神经网络比标准神经网络高2%。除此之外,相比于One-Hot,词嵌入方式有着更小的内存开销,更适用于在资源受限的情况下,处理数据集很大的文本分类问题。在使用标准神经网络时,采用简单的求和方式就能保证准确率和计算开销同时优于求平均。
其他文献
人体行为动作分析作为人机交互领域的重要组成部分,是学者们一直研究创新的重要研究课题,而在人体行为动作中,手势动作识别有着自然,直观,表达信息丰富,灵活的特点,因此,更加符合人机交流习惯的手势动作识别技术的研究变得炽手可热。基于此,本课题以微软公司提供的KinectV2作为手势动作的采集设备和人机交互介质,对静态手势识别和动态手势识别算法进行了研究和优化,并在虚拟平台中完成了测试。文章主要工作内容如
新课程改革实施以来,在信息技术课程中的改变不是很明显,教师依旧是用讲授法在上面演示,学生在下面听,虽然学生面前摆放着可上网的电脑,但因教师用教师机控制了学生机,学生只有看的份,没有动的份。又因学生集中注意力的时间有限,久而久之,学生对信息技术课程的兴趣越来越低,更别谈提高学生的信息素养之说了。针对这一问题,笔者在辖区内选择某所九年一贯制学校,通过分析文献、发放问卷调查、与教师进行访谈、开展有主题的
随着科技的进步,越来越多的移动设备都配备了前置摄像头,同时由于人脸特征采集简便,使用简便,人脸特征在人们日常生活中的应用越来越广泛,包括人脸解锁、刷脸支付等。但是由于人脸图片易于获得,甚至可以使用从互联网上下载图片对人脸识别系统进行欺骗攻击,因此就有必要增强人脸识别系统的安全性,增加人脸活体检测功能。本文重点研究了基于纹理特征和基于深度学习的方式进行人脸活体检测,主要内容如下:(1)为了论证人脸活
2020年初,一场没有硝烟的战争在全国各地打响。全国人民万众一心、众志成城为打赢这场疫情阻击战贡献出自己的力量。而我们教师本该赴一场与春天的约会也因此按下了暂停键,各
随着新一轮基础教育课程改革的开展,我国教育事业又一次迎来大变革。新课程改革要求全面提高学生的语文素养,注重对学生实际能力的培养,并突出强调教学与生活的联系以及课程资源的开发和利用等新的课程理念。如何在当下中学语文教学中有效地落实新课标理念是首要任务,而姚竹青的“2567”教育理念在诸多方面都与当下义务教育语文课程标准的内容不谋而合,且他在多年的教学实践中取得了很好的成效。因此,研究他的“2567”
在工程总承包成为中国工程建设项目发包模式中重点发展方向的背景下,我国工程总承包相关政策的出台成为推动其快速发展的重要因素,而近些年学术论文和理论研究中政策文本分析的应用领域广,同时相关方法较为成熟,有助于工程总承包政策的研究分析。然而目前学者较少有从政策文件的视角进行研究分析,忽视政策对工程总承包的重要作用,同时已经出台的工程总承包政策的具体实施效果是否达到良好的效果也是关键问题,故针对工程总承包
2018年8月,国务院国有企业改革领导小组启动开展国企改革"双百行动",旨在选取百余户中央企业子企业和百余户地方国有骨干企业,在2018年一2020年期间,全面落实"1+N"政策文件要
分析程序是否具有异常行为是保护操作系统安全的有效措施之一。程序运行时指令流既能体现程序的执行路径,又能反映程序运行时的行为特征。因此,基于程序动态指令流来分析程序的行为是一种常用的程序分析方式。但是,就指令流分析中的指令采集而言就存在着诸多困难。一方面需要高效获取程序运行时产生的指令流信息;另一方面需要过滤掉无用的指令流信息。因此,急需一种高效的指令流采集方案。基于双视图技术,利用Intel Pr
GIS技术自上世纪60年代以来进入中国后,在地理信息的采集、分析与应用中起到了日益关键的作用。我国的地理国情监测工作逐渐铺开,各省级国土规划主管部门分别组织开展了省级地理国情信息的普查与监测工作,并与国家局一道建立起了定时、定量的常态制度。从城市管理的角度来看,国家级、乃至省级的地理信息普查颗粒偏大,普查内容较为宽泛,其普查及监测成果并不能完全满足城市管理与发展规划的实际需要。为了解决这一问题,济
城市的道路交通状况是一个地区政府管理水平的重要体现,更是切实关系人民群众幸福指数的一个重要因素。当前,随着城镇一体化步伐的加快,像很多大中城市情况类似,县级地区的城区道路也出现了停车难、交通秩序混乱等交通管理的问题。本文从S县城区道路交通工作的现实情况为出发点,通过发现问题,分析问题,解决问题的方式,剖析了目前S县城区道路交通管理现状,利用文献法、调查研究法和参与式观察法对S县城区道路交通问题开展