论文部分内容阅读
在科学研究与工程应用中，经常会碰到约束优化问题。传统的数值计算方法涉及到复杂的迭代过程，需要大量的计算时间，因此限制了它在大规模规划或实时优化方面的应用。人工神经网络是一种具有大量神经元相互连接的并行分布式处理器，在高效运算方面比传统的数值迭代方法具有更多优势，所以常被用于解决实时优化问题。本文对神经网络优化方法及动态特性进行了深入系统的研究，主要工作和成果如下：
1．介绍了神经网络优化方法与动力系统的基本理论，综述了常见的神经网络优化模型。
2．提出了求解凸二次规划问题的神经网络方法。凸二次规划问题的目标函数一般可表示为，f(x)=1/2xQx+qx，其中Q为正定矩阵或半正定矩阵。利用鞍点定理，将优化问题的求解转化为一组投影方程求解，建立了投影神经网络，研究了它的动态特性，严格证明了网络的稳定性与收敛性。
3．提出了求解具有线性等式约束的非线性凸优化问题的神经网络方法．基于线性等式约束特点，构造延时投影神经网络，通过选择合适的延时，严格证明了所提出的网络是全局指数稳定的。当目标函数严格凸时，证明了该网络全局指数收敛到优化问题的唯一最优解。这个方法的特点是将等式约束设计在投影映射上，简化了网络的结构。
4．提出了求解具有非线性不等式约束的凸优化问题的神经网络方法．当决策变量无上下界约束时，利用K-K-T条件与Fischer-Burmeister函数，将优化问题的求解转化为方程组求解．通过构造合适的能量函数，利用梯度方法建立神经网络。这个网络被证明是Lyapunov稳定的，系统的解轨线能够收敛到优化问题的一个最优解。当决策变量具有上下界约束时，建立了两个神经网络模型。第一个模型为投影神经网络，它利用鞍点定理，将优化问题求解转化为变分不等式求解。根据变分不等式与投影方程之间的关系，建立投影神经网络模型。这个网络被严格证明足全局稳定的与收敛的。第二个模型为反馈神经网络，它将优化问题转化为一系列具有变量上下界简单约束的凸优化问题，建立一系列投影神经网络，严格证明了这些投影神经网络的平衡点序列收敛到原优化问题的最优解。这个网络的特点是没有罚因子，没有Lagrange乘子，没有对偶变量，在结构上非常简单，易于硬件实现。
5．提出了求解一类非凸优化问题的随机神经网络优化与两阶段神经网络优化方法。在目标函数具有局部凸性的条件下，建立了求局部最优解的投影神经网络。为获取全局最优解，在网络上加入递减的白噪声，建立随机神经网络模型。由于噪声起着扰动的作用，有利于避免网络陷入局部最优解，增大网络收敛于全局最优解的概率。两阶段神经网络方法是将优化问题求解分成两个阶段。第一阶段是求局部最优解，第二阶段判断第一阶段求得的局部最优解是否为全局最优解。若不是，修改约束条件返回第一阶段，直到求得全局最优解。
理论分析与模拟结果表明，本文提出的求解优化问题的神经网络方法具有很好的动态特性，克服了已有的神经网络优化方法的一些不足。所有方法均进行了数值试验，给出了相应的轨线状态图，验证了网络的稳定性与收敛性，显示了所提出方法的有效性。