神经网络优化方法及动态特性分析

来源 :东南大学 | 被引量 : 0次 | 上传用户:jtyz888
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在科学研究与工程应用中,经常会碰到约束优化问题。传统的数值计算方法涉及到复杂的迭代过程,需要大量的计算时间,因此限制了它在大规模规划或实时优化方面的应用。人工神经网络是一种具有大量神经元相互连接的并行分布式处理器,在高效运算方面比传统的数值迭代方法具有更多优势,所以常被用于解决实时优化问题。本文对神经网络优化方法及动态特性进行了深入系统的研究,主要工作和成果如下: 1.介绍了神经网络优化方法与动力系统的基本理论,综述了常见的神经网络优化模型。 2.提出了求解凸二次规划问题的神经网络方法。凸二次规划问题的目标函数一般可表示为,f(x)=1/2xQx+qx,其中Q为正定矩阵或半正定矩阵。利用鞍点定理,将优化问题的求解转化为一组投影方程求解,建立了投影神经网络,研究了它的动态特性,严格证明了网络的稳定性与收敛性。 3.提出了求解具有线性等式约束的非线性凸优化问题的神经网络方法.基于线性等式约束特点,构造延时投影神经网络,通过选择合适的延时,严格证明了所提出的网络是全局指数稳定的。当目标函数严格凸时,证明了该网络全局指数收敛到优化问题的唯一最优解。这个方法的特点是将等式约束设计在投影映射上,简化了网络的结构。 4.提出了求解具有非线性不等式约束的凸优化问题的神经网络方法.当决策变量无上下界约束时,利用K-K-T条件与Fischer-Burmeister函数,将优化问题的求解转化为方程组求解.通过构造合适的能量函数,利用梯度方法建立神经网络。这个网络被证明是Lyapunov稳定的,系统的解轨线能够收敛到优化问题的一个最优解。当决策变量具有上下界约束时,建立了两个神经网络模型。第一个模型为投影神经网络,它利用鞍点定理,将优化问题求解转化为变分不等式求解。根据变分不等式与投影方程之间的关系,建立投影神经网络模型。这个网络被严格证明足全局稳定的与收敛的。第二个模型为反馈神经网络,它将优化问题转化为一系列具有变量上下界简单约束的凸优化问题,建立一系列投影神经网络,严格证明了这些投影神经网络的平衡点序列收敛到原优化问题的最优解。这个网络的特点是没有罚因子,没有Lagrange乘子,没有对偶变量,在结构上非常简单,易于硬件实现。 5.提出了求解一类非凸优化问题的随机神经网络优化与两阶段神经网络优化方法。在目标函数具有局部凸性的条件下,建立了求局部最优解的投影神经网络。为获取全局最优解,在网络上加入递减的白噪声,建立随机神经网络模型。由于噪声起着扰动的作用,有利于避免网络陷入局部最优解,增大网络收敛于全局最优解的概率。两阶段神经网络方法是将优化问题求解分成两个阶段。第一阶段是求局部最优解,第二阶段判断第一阶段求得的局部最优解是否为全局最优解。若不是,修改约束条件返回第一阶段,直到求得全局最优解。 理论分析与模拟结果表明,本文提出的求解优化问题的神经网络方法具有很好的动态特性,克服了已有的神经网络优化方法的一些不足。所有方法均进行了数值试验,给出了相应的轨线状态图,验证了网络的稳定性与收敛性,显示了所提出方法的有效性。
其他文献
本文浅析大倾角工作面应用综采机械生产的制约因素和防倒防滑的重要性。一般当煤层倾角过大(大于12°)时,综采工作面设备的防倒防滑问题便成为影响工作面正常生产的重要因素。
期刊
本文浅析架空乘人装置的发展情况,主要就引起架空乘人装置钢丝绳掉道的诸多原因进行分析,并根据实际情况提出解决对策。
期刊
浅析工业自动化控制技术的发展应用情况。从其中的变频器、嵌入式微控、触摸屏等技术方面较为详细的介绍其结构、作用和工作原理。
期刊
本文先研究了等仿射的几何和贝叶斯统计学之间的关系,贝叶斯统计学的先验分布看作是统计流形上的体积形式.应用统计流形上α-平行先验估计和体积形式的关系,结合子流形上的基本
微分几何是以微积分作为工具研究曲线和曲面的性质及其推广应用的几何学,作为数学的一个重要分支,它渗透到各数学分支和理论物理等学科,成为推动这些学科发展的一项重要工具.经典