论文部分内容阅读
粒子群优化算法(ParticleSwarmOptimization，PSO算法)是一种基于群智能方法的演化计算技术，是进化计算领域中的一个新的分支。它的主要特点是简单、收敛速度较快，且所需领域知识少。作为智能优化算法中的一种，它可用于求解大部分的优化问题，并在工程实践中表现出巨大潜力。
本文首先对粒子群算法做了深入的分析，通过对算法公式和参数设置进行的综合分析以及和其它优化算法进行比较，给出了粒子群优化算法实际使用时的指导原则，并讨论了算法在一些领域中的成功应用。并在以下两方面做了深入的研究：
一是基于粒子群算法的神经网络优化方法的研究。粒子群算法用于神经网络优化主要包括两大方面：一是用于网络学习(也称网络训练)，即优化网络各层之间的连接权值；二是优化网络的拓扑结构。本文研究的是神经网络连接权值的优化，并构建了一个用PSO算法训练神经网络权值的进化神经网络模型，通过其在分类问题中的应用测试，比较了其与基于BP算法和基于GA的神经网络对同类问题的泛化能力。实验结果表明，基于PSO神经网络可以克服BP算法和遗传算法训练神经网络时的不足，同时还能得到比基于BP和GA的神经网络更好的泛化能力。
二是基于离散PSO的神经网络集成方法的研究。神经网络集成是对有限个神经网络独立进行训练，并将其预测结果合成，其可以显著地提高神经网络准确表达复杂对象的能力和神经网络的泛化能力。目前神经网络个体的选择生成大多是以Boosting和Bagging为代表的重采样方法，该方法的主要缺点在于构建集成的网络个体一般比较多，利用网络集成进行预测时计算量相对较大。本文提出基于离散PSO的神经网络集成，即在随机训练的神经网络集的所有子集中，利用离散PSO优化算法选择性能最好的子集构建神经网络集成。并构建了基于离散PSO神经网络集成模型，针对其在分类问题中的应用进行测试。实验结果表明，该方法可以有效的提高神经网络的泛化能力，同时还大大减少了参与集成的神经网络的个数，提高了神经网络集成的效率。