论文部分内容阅读
神经网络集成是以多个人工神经网络同时对同一个问题进行学习,其集成的结果由参与集成的各个神经网络在同一输入示例的输入条件下的输出进行组合而成的,即输出由构成这个集成的各个神经网络在这个示例下的输出来共同决定。其泛化误差等于集成中个体网络的平均泛化误差和平均差异度之差,因此,要达到增强神经网络集成的泛化能力的目的,首先应尽可能提高个体网络的泛化能力,其次应尽量地提高集成中各网络之间的差异度。本文主要工作如下:(1)针对多分类器集成算法(Bootstrap aggregating,Bagging)技术生成训练样本子集时,可能存在同一个样本重复出现的问题。本文采用一种在保证一定规模训练样本的前提下,通过随机抽取一小部分样本的扰动方法,得到一个不会有重复样本出现的训练样本子集。(2)针对BP(Back Propagation)网络的隐层节点数目在实际应用中难于确定的问题。提出一种可以确定BP网络隐层结点数目的有效方法,即通过特殊的编码方式,利用具有全局搜索能力的蜂群算法实现同时优化三层BP神经网络的结构和连接权。(3)对于结论生成,提出两种选择性平均集成:一种首先对所有生成的个体进行分类,每一类给定一个网络个体组合数,利用蜂群算法(Artificial Bee Colony,ABC)算法对所有个体网络进行组合搜索,将相关系数最小的个体组合作简单平均集成作为该类的代表,并将所有代表再一次进行平均集成。而另一种则是以网络输出序列的方差衡量个体差异度进行选择性集成,即利用ABC算法对所有网络的预测值进行组合优化,选择一个方差最大的组合进行集成。(4)将提出的基于最小相关度组合的选择性神经网络集成和基于最大方差组合的选择性神经网络集成方法分别应用在台风强度的预测和区域降水预测等方面。实验结果表明,选择性神经网络集成方法预测能力比一般的神经网络集成方法优势明显,可以适应于实际问题预测。