论文部分内容阅读
径向基函数神经网络是一种结构简单、训练简洁、应用广泛的人工神经网络。网络性能好坏的关键在于中心的选取。中心的数量即隐层节点数量选得太多,容易导致过拟合,使得推广能力下降;中心数选得太少,所学习的网络对样本中包含的信息学习得不充分,也会使得推广能力下降。近年来,已经发展了多种中心选择算法,但是这些算法在推广能力方面存在一定的缺陷,并且这些中心选择算法大多数用于非线性函数的逼近学习中。在实际应用中,尤其是在解决分类问题的应用中,RBF网络的优势在于用线性学习算法来完成以往非线性学习算法所做的工作,同时又能保持非线性算法的高精度等特性。因此,它是一种既具有线性算法收敛快的特性,同时又拥有非线性算法所具有的准确率高等特点的神经网络。但是,在解决较高维数数据分类问题时,用以往的中心选择方法确定的网络在推广能力上的缺点很明显。支持向量机是一种基于VC理论的创造性学习方法,它能够使期望风险最小化,具有较强的推广能力。所以,挖掘这种学习机模型与传统的学习机模型之间的差异和相似之处,来提高传统学习模型的推广能力,同时拓宽新模型的应用范围,这将具有非常重要的意义。 本文主要由两部分组成: 第二章首先比较了在处理线性分类问题方面SVM方法和传统的单层感知器之间的差异;然后通过详细阐述非线性SVM方法,得出非线性SVM方法所产生的决策函数类似于传统的RBF网络分类器的结论;接着具体地论述了本文提出的RBF网络的中心概念,通过两个特殊例子说明对于高度非线性分类样本,可以找到非线性函数将样本映射到特征空间,在特征空间中可以找到超平面对样本进行线性分割,并用传统的选中心方法即K-均值法得到的RBF网络对这种少量的非线性样本进行分类,实验表明对于这样高度非线性样本得到的测试精度很低,这进一步直观地证明了本文RBF网络中心选择算法的优势;最后基于这种观点提出了一种径向基函数网络训练算法。 第三章通过对几种模式识别数据的实验,表明对于非线性分类数据,采用非线性支持向量方法产生支持向量集,然后用支持向量集作为网络的中心集,用最小二乘的方法训练权值来构造RBF网络的方法,能够得到具有较好的推广能力网络的结论。