深度神经网络可视化算法及应用

来源 :中国计量大学 | 被引量 : 0次 | 上传用户:jojoy9912004
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
目前,深度学习在计算机视觉领域的巨大成功使其成为最具影响力的研究方向之一,很多研究都对深度网络进行了改进并将其应用到各个领域.然而,对深度网络的改进主要是增加网络的深度或者在网络中嵌入复杂的模型,这种改进思路在一定程度上可以提高网络的性能,但是这也导致网络变得越来越臃肿,大大增加了网络训练的难度和对训练数据集数量的要求.同时,这种网络结构层面的改进不涉及深度网络的内部处理算法,不利于深度学习在理论上或者算法上的突破.因此,我们需要对深度网络的内部处理机制进行分析与研究,从而根据不同的问题对深度网络的内部算法进行改进.首先,借助最大激活可视化算法(Activation maximization,AM)对深度网络进行逐层可视化,以此进一步理解深度网络每一层和每个卷积核的主要作用.基于对深度网络内部处理机制的研究分析,研究基于可视化的深度网络压缩算法、基于反卷积神经网络的图像超分辨率重建算法、基于密集连接网络的遥感图像时空融合算法等.具体内容如下:1.基于可视化的深度网络压缩算法.首先,利用经典的AM算法对深度网络进行逐层可视化.通过对可视化结果进行分析,我们发现不同的卷积核提取不同的特征,而且在同一层中存在很多提取相同特征的卷积核或者提取无效信息的卷积核,这些冗余的卷积核浪费了大量的计算资源和存储资源.针对这一现象,我们基于可视化结果提出了一种卷积核的删减策略.对于单个卷积层,我们提出一个优化模型来对卷积核进行删减,在删减卷积核的同时要求该卷积层获取的信息量越多越好.对于该优化模型我们利用贪婪算法进行求解.然后,我们将单层的删减策略推广到了整个网络并对深度网络进行了整体压缩.与一般的基于卷积核重要性指标的深度网络压缩算法不同的是,我们提出的基于可视化的压缩算法不仅可以删除无效的卷积核,同时还可以删除功能重复即提取相似特征的卷积核.通过对比实验可以发现,提出的算法具有更好的压缩性能.2.基于反卷积神经网络的图像超分辨率重建算法.图像分类问题和图像重建有着本质的区别,卷积运算在图像分类问题上取得的巨大成功不代表其对于图像重建问题是最优的选择.卷积运算可以从一堆特征中提取出对图像分类最有效的特征,是一个信息从多变少的过程.而图像重建问题需要从少量的低分辨率信息恢复出更多的高分辨率细节信息,是一个特征从少变多的过程.反卷积运算可以看做卷积运算的逆运算或者转置运算,可以从少量信息中恢复出更多的信息.因此,反卷积运算的原理与图像重建问题的机理更相符.基于此,我们提出了一种基于反卷积网络的图像超分辨率重建网络(Fully deconvolutional neural network,FDNN).考虑到大部分的用于图像重建的网络与图像分类网络一样选择均方误差(Mean square error,MSE)作为网络的损失函数,而MSE损失函数由于其过于光滑的特性会导致恢复出来的图像过于平滑.因此,为了避免MSE的这一缺陷,我们将图像视为像素的一种分布,将Kullback–Leibler(KL)散度引入到网络的损失函数.通过对比实验,虽然我们提出的FDNN网络只有10个反卷积层,但是重建效果却优于20层甚至30层的深度卷积网络.3.基于多输入密集网络的遥感图像时空融合算法.一般的用于图像超分辨率重建的网络都是单输入单输出,而遥感图像时空融合问题含有序列图像可以利用,为了充分利用相邻时刻影像的信息,我们提出了一种双输入的密集连接网络(Multi-input dense neural network,MDN),将相邻时刻的两张低分辨率MODIS遥感影像作为输入得到一张过渡的高分辨率遥感影像.考虑到遥感图像时空融合问题只是缺失了某些时刻的高分辨率影像,缺失时刻前后的高低分辨率影像都有,而MDN网络只是利用了低分辨率影像的信息.因此,我们又提出了一种差异相似插值算法(Error linear interpolation,ELI),将MDN网络学习到的两张过渡图像与已知的缺失时刻前后的两张高分辨率影像进行融合,得到最终的中间缺失时刻的高分辨率Landsat影像.通过对比实验,本文提出的融合算法在定量对比和视觉对比上都优于传统的基于稀疏表示的融合算法和一般的单输入单输出的图像超分辨率重建网络.
其他文献
无线感知技术是通过采集,处理与分析泛在的无线信号,并从中挖掘出其传播环境中诸如身份、手势、动作等目标信息的一种新兴技术。得益于无线信号的物理特性,无线感知技术可以
图像分割是依据一定的相似性准则将图像分为几个有意义的、互不重叠的区域的一种图像处理办法。在同一区域内,图像的特征(如灰度、纹理、色彩)是相似的,而在不同的区域内,图像的特征则明显有所不同。阈值法因其简单实用的优点成为最常用的图像分割方法,但是它只利用了图像的灰度信息,在某些情况不能得到理想的分割结果。研究表明,同时考虑图像的灰度信息和像素间的空间相关性有助于改善分割结果,将像素之间的空间相关性引入
在计算密集型批处理任务中,有一种任务运行时间很长、且要占用大量CPU和内存资源,例如基因测序任务。对于该种类型的任务调度策略来讲,任务完成时间是衡量调度策略好坏的一个重要指标。在任务大小和数量一定时,任务完成时间越小,系统服务质量越高。设计了一种面向计算密集型批处理任务的调度系统。该系统采用一种混合改进遗传模拟退火算法(Improved Genetic Simulated Annealing,IG
主客体化学是超分子化学领域的核心内容,分子自组装是超分子化学的最终目标,现在超分子化学在这两方面的基础上均取得了快速的发展。设计和开发具有大尺寸空腔和特定功能性大
随着互联网技术的发展和开源社区的兴起,开源代码的数量急剧增加,从开源社区中发掘出有用信息需要耗费大量的时间和精力。自动摘要技术广泛地应用于文本主要内容的获取,但针对代码的相关技术研究较少。本文使用深度学习思想解决这一问题,利用卷积神经网络(Convolutional Neural Networks,CNN)模型提取代码特征,从而缓解信息爆炸带给人们的时间精力问题。本文对代码自动摘要问题进行了分析,
提到近代日本的思想一定会涉及到脱亚论。但是,在同时代“日中连带”和“亚洲只有一个”等兴亚思想多为民间人所讨论。这些思想多为早期亚洲主义的思想。亚洲主义思想在19世
图像分割作为图像处理技术中基础步骤,是能够将图像划分成具有各自特性的区域并能将感兴趣的区域提取出来的技术。图像分割结果会直接影响图像处理中的图像分析和图像理解步骤,因此,对图像分割技术的研究具有重要意义。在传统的分割算法中,大多是以单个像素为处理单元,所以分割方法计算效率低,分割效果差。因此以超像素代替像素的分割方式得到了发展,降低运算成本。本文在超像素的基础上,通过图像预分割和超像素融合两个阶段
进入了大数据时代之后,各行各业的需要处理的数据越来越多,视频数据尤甚。在视频算法出现之前,一直都是靠人工对视频数据进行处理。显然,人工对视频数据进行处理与分析需要耗
薯类作物采用机械收获时,会产生机械损伤。这些机械损伤因为收获环境复杂,薯类形状各异等限制一直没有很好的智能化检测方法。本文针对薯类的工业检测背景进行机器视觉检测的
伴随着互联网的普及,软件产品正深入人们的日常生活,对软件产品质量提出了更高的要求。如何快速开发高质量的软件正成为现代软件开发的难题,而开源软件提供了很大的便利。GitHub是目前最大的软件开源社区,许多软件项目依靠软件工程师、开发者之间的讨论决定软件未来的走向,没有固定软件过程模型的指导。软件过程模型对于指导和管理开发高质、高效的软件产品有一定的重要作用。目前,软件过程建模己经从传统人为建模的方法