嵌入式系统下基于非易失存储器的SC-DCNN的优化研究

来源 :山东大学 | 被引量 : 0次 | 上传用户:timeman
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度卷积神经网络(DCNN)是当前最流行的神经网络之一。随着可穿戴设备和物联网的发展,DCNN在嵌入式系统中的应用变得越来越广泛。虽然DCNN的功能非常强大,但实现它需要进行大量的计算,所以通常需要一些高性能的硬件设备去执行DCNN。而对于低功耗、小巧的嵌入式设备来说,很难满足执行DCNN的硬件要求,这限制了在这些设备中嵌入DCNN。因此为了 DCNN的广泛部署,我们需要解决传统计算方法与设备带来的功耗受限、硬件面积受限、存储受限等问题。随机计算(SC)是一种新型的计算范式,其简化了算术单元的硬件实现。作为DCNN中二进制计算的低成本替代品,SC有潜力满足嵌入式设备的低能耗需求,可以推动DCNN在计算资源受限条件下的应用。然而,SC中的比特流通常比对应的二进制数拥有更多的比特位,这不可避免地给设备带来了更大的存储压力。为了应对存储方面的限制,在本研究中,我们使用泄漏功率低、存储密度高的多层单元相变存储器(MLC PCM)代替动态随机存取存储器(DRAM)作为DCNN的权重存储器。但MLCPCM带来大存储密度的同时,仍然存在着高写功耗、高写延迟与高软错误率的问题。基于上述问题,为了解决在嵌入式设备中部署应用DCNN的各方面限制,本文进行了在嵌入式系统下基于非易失存储器的SC-DCNN的部署及优化研究。本文具体做了以下工作:首先,应对嵌入式设备的资源受限问题,本文完整模拟实现了基于随机计算的DCNN,包括随机数的产生、随机数之间的乘加运算、基于随机计算的激活函数等。其次,针对MLC PCM的性能问题方面,本文设计了一种专用于随机计算的MLC PCM优化技术(SC PCM)。在不牺牲存储密度与应用精度的情况下,SC PCM降低了 MLC PCM的写延迟和功耗。并且由于SCPCM中间状态对应的电阻范围具有可操作空间,我们通过改变数据中间状态对应的电阻范围,在功耗、延迟与精度之间做出权衡,选择出最适合于实际应用的方案。优化的SCPCM不仅提高了在嵌入式设备中部署大规模神经网络的存储性能,也保证了整体应用级的可用性。最后,针对随机计算中随机数比特流带来的高存储量问题,我们提出了一种有效的分层多精度SC-DCNN模型,精度的降低在SC中体现为比特流长度的减少,因此可以减轻PCM的主存压力。并且在分层多精度网络成为提高神经网络能力的可行方案之前,本文还解决了两个主要的技术问题如何正确选择不同层的比特流长度以满足神经网络的精度要求,以及如何使用不同长度的位流执行SC操作。实验结果表明本文所提出的优化策略可以实现DCNN在嵌入式设备上的高效部署,且DCNN在应用精度上仍保持较高水平。在主存性能上,相较于传统的MLCPCM,本文设计提出的SCPCM在不降低信息密度的前提下,降低了写能耗与写延迟,且提高了主存的可靠性。
其他文献
针对个性化需求大于供给的结构性矛盾,如何促进大数据赋能的C2B个性化定制价值共创,加快传统制造业向个性化、数字化方向转型,是化解这一矛盾所需解决的关键问题之一。本论文综合应用文献分析、案例研究、博弈分析等方法,对大数据赋能的C2B个性化定制价值共创行为演化与协调进行了研究。具体研究工作和贡献体现在如下几个方面:首先,选取尚品C2B个性化定制模式创新案例,应用动态能力理论,研究了C2B个性化定制价值
学位
生鲜面在我国具有悠久的历史,因其良好的口感、独特的面香味和丰富的营养等特点而备受消费者的喜爱。然而,生鲜面的水分含量较高、营养物质丰富,导致其十分适合微生物的生长、货架期较短。大量的研究主要关注各类保鲜方法对生鲜面中微生物的抑制作用和货架期的影响,却很少关注其对品质的影响以及品质影响的机理。本文主要研究了生鲜面工业化生产中常用的三种保鲜剂(乙醇、酸及酸性盐、碱性盐)对生鲜面微生物货架期和品质的影响
学位
佐基是缅甸是实验文学运动的先驱之一,他的作品曾对缅甸文学界乃至缅甸社会产生巨大的影响。《水浮莲之路》是其主要作品之一,其中围绕“水浮莲”意象共创作41首诗歌。第一首诗的撰写始于1957年,最后一首诗完成于1981年左右,前后共跨越24年。佐基把浮莲的旅程比作自己的人生之路,寓情于景,融入了他的人生经历与见解。美学范畴的意象,由象——具体物象,和意——主观情意二者相结合,由此构成独特的审美个体。而不
学位
对于中国传统文化的代际传递、技艺传承,儿童从来都是极为重要且不可缺少的群体,离开儿童谈中国传统文化的传承必然是一种断层。因此要真正实现中国传统文化的活态传承,必须将中国传统文化渗入到儿童的日常生活中,实现意义的激活。绘本是当下儿童认知教育不可获缺的媒介之一,源起于西方的绘本在中国本土落地生根过程中形成了一种独具特色的“中国风”绘本,它从中国传统文化中汲取灵感,既包括民间文学、建筑器皿等表层文化,也
学位
农村“厕所革命”是改善农村人居环境的重要一环,也是全面推进乡村振兴战略的一项功在当代、利在千秋的民生工程,其意义在于改善农村的厕所卫生环境、转变村民的生产生活理念、提高村民的生活幸福指数、推进乡村文明建设,让村民享受到现代化文明成果。但是,农村“厕所革命”涉及政治、地理、经济、文化等多个方面,其中,研究如何改善政府的职能履行,可以有效解决农村厕改工作中的问题,推进农村“厕所革命”的进程。为此,围绕
学位
目的:探讨消化性溃疡就诊情况与气象因素和环境污染因素之间的关系。方法:本文收集2014年1月至2020年12月就诊于兰州大学第一医院的消化性溃疡患者信息,及同期兰州市气象数据、空气污染数据。利用描述性研究分析在我院就诊患者的消化性溃疡的疾病特征,通过皮尔逊相关分析消化性溃疡就诊人数与气象数据、污染数据间的相关性。通过分布滞后非线性模型探讨气温、气压等气象因素及SO2、NO2等污染因素对消化性溃疡就
学位
【目的】探究总额预付下、医保患者住院费用实施DRG付费对公立综合医院的医疗服务质量和费用的影响及其影响因素,为我国推行和完善DRG付费、提升医疗服务质量、控制医疗费用提供借鉴和参考。【方法】1.文献研究法通过检索国内外文献数据库,明确文献排除标准,分析纳入的文献,梳理国内外实施DRG付费的实施概况、DRG付费对医疗服务质量和费用的影响,梳理相关理论和研究方法,归纳总结DRG付费对医疗服务质量和费用
学位
相较于传统的融资模式,众筹凭借其突出的优势,获得了长足的发展。与此同时,出现了越来越多的“连续发起人”,他们能够在不断发起或支持项目的过程中积累必要的经验,而经验被论证在众筹成功过程中具有重要作用,会对项目绩效及成功率产生积极影响。然而,现有研究大多停留在浅显的认知层面,对发起人经验影响众筹成功的具体内在学习机制仍了解不足。因此,为探索发起人不同类型经验的学习机制,本文以Indiegogo平台上的
学位
自1969年互联网诞生以来,数据的传输越发的方便,进而催生出了众多网络技术。随着数据量呈爆发式的增长,大数据、云计算、人工智能等技术已成为近几年的重要技术,为了应对大规模的数据传输和存储,数据中心也越发的成熟。地理位置分散的全球化数据中心成为了数据中心新的构建方式,数据中心中的部分数据和服务支撑着数据中心的服务提供以及正常运转。然而,数据中心极易受到自然灾害或者人为攻击的影响,数据中心中的核心数据
学位
远程桌面的出现提升了人们使用计算机的效率。远程桌面软件具有基于瘦客户机的特点,这种特点允许远程桌面用户使用一台轻薄的、低性能的计算机,利用互联网,通过远程桌面客户端软件远程访问另一台计算机上的远程桌面服务端,获取服务端上的资源。远程桌面的桌面图像传输质量以及对于网络带宽容量的要求显著影响着用户的使用体验。目前,基于瘦客户机架构的远程桌面软件的远程传输协议在传输桌面图像方面所使用的图像压缩算法多为传
学位