论文部分内容阅读
深度神经网络(Deep Neural Networks,DNNs)作为机器学习(Machine Learning,ML)领域内的研究热点,借鉴生物视觉认知系统的分区机制,将数据表征为一系列的矢量进行特征学习,DNNs在计算机视觉领域取得了巨大成就。脉冲神经网络(Spiking Neural Networks,SNNs)是一种具有生物可塑性(Biological Plasticity)的神经网络,它利用随时间变化的脉冲序列(Spike Train)在神经元之间进行信息传递,能更好地融入时空信息,是“类脑计算”的主要工具。结合了DNNs和SNNs各自的优势,分析了现有深度脉冲神经网络(Deep Spiking Neural Networks,DSNNs)的模型特点,开展了脉冲编码、基于DSNNs的学习方法的研究,并针对基于DSNNs的机械臂故障诊断方法进行了研究,具体内容如下:首先,介绍了DSNNs的研究背景和意义,综述了DSNNs的国内外研究现状,阐述了论文的研究内容和技术路线。其次,介绍了深度卷积神经网络(Deep Convolutional Neural Networks,DCNNs)、深度置信神经网络(Deep Belief Networks,DBNs)以及SNNs的发展、模型结构、现阶段DSNNs模型的实现方法及学习算法等相关内容,为后续研究提供理论支撑。第三,提出了基于DCNNs的机械臂故障分类方法,重点介绍了UCI机械臂传感数据的预处理技术,分析了DCNNs处理一维时序信号的能力。将采集到的机械臂力及力矩传感数据在时间和数据两个维度进行结合,并采用1D和2D卷积方法在CPU(Intel Core i5-7200U)和GPU(GFX NVIDIA GeForce GTX1060 3G)进行实验验证。实验结果表明:对于机械臂一维时序信号数据的处理方式能够很好的拟合DCNNs模型,分类准确率优于传统的分类方法。第四,在DCNNs模型中融入脉冲机制,使用积分点火(Integrated-and-Fire,IAF)神经元来代替传统的人工神经元,采用两种训练方式进行实验验证:(1)采用有监督方式,提出了基于时延特性频率编码的(Deep Spiking Convolutional Neural Networks,DSCNN)的机械臂故障分类方法。实验结果表明:所提出的具有时延特性频率编码方式,具有脉冲时延编码和脉冲频率编码双重特点,减少了网络的训练时间以及算法的计算量;在模型学习阶段引入了相似性原理,提高了模型的泛化能力;(2)采用无监督方式,提出了基于STDP的DSCNN机械臂故障分类方法。在卷积层内融入赢者通吃(Winner-Takes-All,WTA)以及横向抑制(Lateral Inhibition Mechanism,LIM)两种竞争机制,实验结果证明:在模型中引入神经元的竞争机制提高了网络的抗噪能力。第五,提出了深度脉冲置信神经网络(Deep Spiking Belief Network,DSBN)的机械臂故障分类方法,并进行实验验证。针对DSBN模型,使用Siegert神经元代替传统RBM中的神经元,并在Siegert神经元中引入固有可塑性(Intrinsic Plasticity,IP)学习规则。实验结果表明:该模型与前三种模型相比,模型训练时间从DCNNs模型的125分钟缩减到4.16秒。最后,对所做的工作进行总结,并展望下一步工作。