基于群体智能的深度神经网络结构优化方法

来源 :西安工业大学 | 被引量 : 0次 | 上传用户:doto
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,得益于计算机性能的大幅度提升,计算资源成本下降和大规模标记数据的快速增长,多层次的深度神经网络迎来了研究热潮。在计算机视觉和自然语言分析等领域中,深度神经网络表现出强大的学习能力。然而,随着理论分析与工程应用问题研究的不断发展,深度神经网络仍面临着诸多挑战。如网络结构设计要求过高,参数优化耗时长和网络性能不稳定等。早在上个世纪90年代,就有学者证明浅层的神经网络结构优化为NP(Non-deterministic Polynomial-time Hardness)问题。因此,设计一种自动化,低门槛的深度神经网络结构优化方法,对于在数据驱动的工程应用问题中具有重要意义。以蚁群算法(Ant Colony Optimization,ACO)、粒子群算法(Particle Swarm Optimization,PSO)和自组织迁移算法(Self-organizing Migrating Algorithm,SOMA)为代表的群体智能算法(Swarm Intelligence,SI)是模拟生物界动植物群体生活习性的一类智能算法。它们具有简单性、容错性、分布性、较强的鲁棒性和较好的可扩充性等特点,在解决NP难问题上具有明显优势。因此,本论文的主要研究内容为分析SOMA存在的问题并加以改进,并将改进后的算法应用于解决深度神经网络结构优化问题,提升长短期记忆网络(Long Short-Term Memory Network,LSTM)和卷积神经网络(Convolutional Neural Networks,CNN)等常用网络模型在应用中的性能。本文主要在以下几个方面展开研究工作。1)对SOMA进行分析发现,标准SOMA存在提前收敛、易陷入局部最优的问题。针对上述问题,本文采用基于Logistic混沌映射的种群初始化方案和基于存档的自适应步长更新机制对SOMA进行改进,将改进算法命名为基于自适应步长的自组织迁移算法(SOMA with Adaptive Migration Step Size,ASSOMA)。进一步为了验证算法在改进后的性能,在CEC2015的15个基准测试函数集上进行仿真实验,与其它智能算法和SOMA的变体进行比较分析。实验结果表明,所提出的ASSOMA具有较好的寻优能力。2)以家庭用电负荷预测为待解决的问题背景,构建基于LSTM的预测模型。其次,梳理LSTM中的超参数,分析在不同问题背景下,影响LSTM网络性能的超参数组合。进一步地,使用ASSOMA算法对上述超参数进行优化,寻找最佳网络模型结构。最后,通过与其它智能算法进行对比实验,预测未来一周的家庭用电负荷。实验结果表明,ASSOMA算法在基于LSTM的家庭用电负荷预测问题上,相较于其它智能算法具有显著优势。3)针对集成学习的子模型选择问题,提出了一种选择方案,命名为有效模型选择法。进一步地,采用基于ASSOMA的软投票法对有效模型进行集成模型学习,优化集成模型结构。在Deep Swarm架构的基础上,对上述方法进行实验验证。实验结果表明,有效模型选择法所选取的子模型在集成模型中的性能表现优于原始最佳模型。基于ASSOMA的集成学习方法提升了网络模型在解决图像分类问题上的精度,同时与其它智能算法对比,ASSOMA表现出一定的竞争力。最后,对全文的研究工作进行了总结,并对下一步研究的方向进行展望。
其他文献
随着互联网技术被越来越广泛的应用,稳定且高速率的数据传输协议受到广泛关注,传输控制协议(Transmission Control Protocol,TCP)因其高可靠性,一直被应用于可靠的消息发送和文件传输,但TCP协议仅仅只能使用一个物理接口进行通信。当前嵌入式设备广泛配备多类网络接口,且具有多接口并行通信的需求,因此,传统TCP传输协议已经难以满足日益变化的通信环境与用户需求。同时,互联网是一
学位
行人重识别研究在当前有着非常高的关注度和实际应用价值,不同学者从不同的角度展开研究,并且取得了一些研究成果。通过行人重识别来获取行人行走过程中的图像信息,进而对行人的特殊特征信息进行提取,在实际场景中得到有效利用。通过梳理已有的实现方法,往往会提到要设置一个关键的前置条件,要求行人行走过程中,保持水平姿态,这样就能够获取到对称图像数据信息。除此之外,还有一些方法在使用的时候,着重是对有效特征区域的
学位
近年来,随着雷达监测与深度学习技术的迅速发展,基于深度学习的RCS数据目标识别已然成为了一个新的研究方向,在军事、民用等领域都被广泛应用。在我们利用深度学习技术训练RCS目标识别模型的过程中,常常遇到因样本难以采样,无法提供充足的样本进行模型训练,进而导致目标识别准确率低的问题。为了解决这一问题,本文从不同的角度出发,分别采用了两种不同的元学习算法,使得在少量样本的情况下可以实现目标物体的识别。本
学位
目前,“停车难”越来越成为国内各大城市面临的主要城市问题之一,在已经形成的城市格局下,匮乏的停车位资源导致人们对于车位实时可用性信息迫切需求。本文提出一种基于群体感知的车位推荐系统,利用群体感知技术灵活便捷的优势采集车位状态信息,并对这些信息处理分析后将可用停车位列表推荐给驾驶员,从而实现一种“人人为我,我为人人”的设计理念。在将群体感知技术和车位状态感知任务融合的过程中,如何激励更多用户参与感知
学位
文章结合册亨县板万一期90MWp光伏发电项目全过程施工现场管理,简要介绍了光伏发电项目施工现场管理过程中的管理要点及常遇到的一些问题,采取的应对措施及在施工现场管理过程中总结的一些经验。
期刊
行人重识别技术主要利用行人数据集训练的神经网络提取行人特征、进行目标行人的判别。然而,典型行人重识别数据集数量有限,且采集的行人图像存在姿态多变与风格变化等干扰因素,同时传统特征提取方法容易忽略身份敏感相关信息,导致现有行人重识别方法不能有效学习多种判别性特征,缺少有效检索范围判定,而出现检索性能低的问题。针对以上问题,本文使用风格信息和姿态信息进行图像合成,扩充数据集,并依据属性相关性减少属性个
学位
智能巡检机器人是互联网发展的产物之一,通过搭载各种智能检测装置以及智能化应用实现对工厂的智能识别与监测。智能巡检机器人自身配有充电装置进行自动充电,不仅充分发挥了巡检机器人智能、灵活的优点,也实现了巡检机器人代替人工完成不间断、高频率的巡检。然而,巡检机器人因为其电池寿命短、计算能力有限等约束导致智能化程度不足,对于像识别算法等一系列计算密集型任务无法快速解决并及时作出反馈。移动边缘计算(Mobi
学位
随着实际优化问题的复杂度提高,传统的优化方法已难以对其实现高效求解,基于“无免费午餐”定理,因此学者们必须深入探求更有效的启发式优化算法来对实际优化问题进行求解。通过观察到大自然中飞蛾夜间横向定位的飞行方式,并对其行为进行仿真模拟,澳大利亚学者Mirjalili由此提出了一种新的启发式优化算法-飞蛾火焰优化算法(Moth Flame Optimization Algorithm,MFO),为优化领
学位
随着操作系统的不断发展,各种手机操作系统、居家智能操作系统等都有了广泛应用,嵌入式操作系统的网络协议栈需要适应不同的应用环境。在传统的嵌入式操作系统网络协议栈中,数据链路层中的数据帧处理方式过于简单而无法满足一些负载的情况,为了使数据链路层减少对系统的负荷,更加适应各类应用,本课题针对中航工业研究所自研的国产化某嵌入式操作系统,设计符合要求的网络协议栈的数据链路层,对ARP协议功能进行改进,并加入
学位
随着我国航空航天事业的不断发展,保障飞机的安全飞行也成为了重中之重。机载设备对飞机的安全起到了关键性的作用,因此研究国产OS在机载设备中的应用以及对嵌入式实时操作系统的自主可控成为了关键问题。国产OS作为我国机载设备的核心系统,其对OS的实时性、高效性以及稳定性有着十分高的要求。然而嵌入式设备存在内存等各种资源有限的问题,OS中传统的TCP/IP网络协议栈中协议众多,对内存等各方面的资源占用比较大
学位