深度神经网络压缩与加速综述

来源 :计算机研究与发展 | 被引量 : 0次 | 上传用户:Janette
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度神经网络在人工智能的应用中,包括计算机视觉、语音识别、自然语言处理方面,取得了巨大成功.但这些深度神经网络需要巨大的计算开销和内存存储,阻碍了在资源有限环境下的使用,如移动或嵌入式设备端.为解决此问题,在近年来产生大量关于深度神经网络压缩与加速的研究工作.对现有代表性的深度神经网络压缩与加速方法进行回顾与总结,这些方法包括了参数剪枝、参数共享、低秩分解、紧性滤波设计及知识蒸馏.具体地,将概述一些经典深度神经网络模型,详细描述深度神经网络压缩与加速方法,并强调这些方法的特性及优缺点.此外,总结了深度神经网络压缩与加速的评测方法及广泛使用的数据集,同时讨论分析一些代表性方法的性能表现.最后,根据不同任务的需要,讨论了如何选择不同的压缩与加速方法,并对压缩与加速方法未来发展趋势进行展望.
其他文献
资产证券化是西方金融领域最重要的创新工具之一.本文通过对资产证券化内涵及我国开展资产证券化工作的必要性进行深入分析,力求对我国学者提出的几种资产证券化方案进行透彻
介绍了内置轮毂的铸件结构及技术要求,并阐述了该铸件的铸造工艺和熔炼工艺,其中铸造工艺设计采用了铁液过滤和陶瓷管浇注系统;铁液处理采用2次孕育、除渣,保证了铁液的纯净
大体积混凝土底板工程一直最为担心的并不是强度,而是混凝土水化过程温度过高而产生开裂。本文主要引用了君御海城的大体积底板工程实例。通过混凝土配方设计及施工控制成功解
本文以英镑/美元和欧元/美元两支汇率的收益率风险为例,借助于Copula的有关理论给出了这两个风险之和的分布边界.比较二元分布函数的相关性时,秩相关系数Kendallτ是一个不错
压砂瓜产业作为中宁县的支柱产业,在生产上存在品种单一的问题。通过试种引进西甜瓜新品种,旨在筛选适合中宁县乃至宁夏中部干旱地区补水栽培的抗旱品种。结果表明:替代西瓜金
《群芳谱》是明代王象晋编撰的一部关于栽培植物的农学著作,书中总结了以往的农业科技知识,体现了中国传统农业思想,丰富了农业生产技术,具有极高的农学价值。同时,《群芳谱
壁板颤振是壁板结构在高速气流中产生的一种自激振动,在超声速和高超声速飞行器上特别容易发生这种现象。壁板颤振引发的非线性振动将对高速飞行器结构的疲劳强度、飞行性能
主要介绍了XML的基本概念及其比HTML具有的优势,着重论述了XML结合JSP在机械工程数据发布方面的应用并给出了实例.最后展望了XML结合JSP在机械工程应用方面的广阔前景.
从生产、需求、价格三方面对深圳市预拌混凝土行业现状进行阐述,分析了当前深圳市预拌混凝土行业发展过程中存在的问题,并提出相关建议,旨在为行业发展提供参考。