随着模式识别、人工智能和机器学习等领域研究的不断深入，传统的基于模式特征向量和距离、类似度等测量的统计分类和识别方法已经不能有效解决一些复杂问题的分类和识别。研究表明，越来越多的模式分类和机器学习处理的对象由无结构域中的高维特征向量向结构域中的树型或图型结构特征向量转变。结构域中研究的主体是具有复杂数据关系的子模式数据，通过对子模式的分类和识别，达到对整个复杂模式分类和识别的目的。 本文对能够处理结构数据的有监督的迭代神经网络和无监督的迭代神经网络进行了较深入的研究。迭代神经网络的研究以普通神经网络的研究为基础，在研究顺序上，一般先研究普通神经网络，再把研究深入到迭代神经网络上来，在本文的叙述上，也按照同样的顺序。在前向神经网络上，分别对BP算法、LMBP算法和粒子群算法的学习性能进行了对比；以此为基础，在有监督的迭代神经网络上，讨论了BPTS训练算法及其改进算法，同时将在前向神经网络训练中表现最好的粒子群算法应用于有监督的迭代神经网络训练，得出了一些有益的结论；在自组织映射神经网络上，分别讨论了生长自组织映射和无参数自组织映射，在此基础上，提出了无参数生长自组织映射；在无监督的迭代神经网络上，把基本自组织映射、生长自组织映射、无参数自组织映射和无参数生长自组织映射推广到结构域，并进行了实验对比。 本文的主要贡献概括如下： 1．提出了基于“Global Best”算子的粒子群算法，在训练前向神经网络时，相比于现有的粒子群算法，该类算法拥有最快的收敛速度。结合粒子群算法在进行函数优化时的经验，提出了广义粒子群算法，广义粒子群算法对于如何把粒子群算法应用于其它领域做出了理论性的建议。将在前向神经网络训练中表现最好的粒子群算法应用于有监督的迭代神经网络训练，提出了一种基于粒子群算法的有监督的迭代神经网络快速学习算法。 2．传统自组织映射模型网络结构固定，训练过程中退火参数的确定是个麻烦的过程。在前人研究的基础上，本文提出了无参数生长自组织映射融合模型，该模型很好的解决了上述两个问题，同时也给出了无参数自组织映射中参数β的确定方法。把该模型应用于无监督的迭代网络框架，得到了比较满意的结果。