最优化问题是军事科学,自然科学,工程管理等学科中普遍且大量存在的问题。随着科学技术的日益发展,许多工程的核心问题最终都归结为优化问题。传统的优化方法,如梯度下降法、牛顿法、拉格朗日乘子法等由于其计算时间很大程度上依赖问题的规模和复杂性,难以实现工程优化问题实时求解的目的。因此人工神经网络解决实时优化问题得到广泛研究。基于微分包含和改进的拉格朗日乘子法理论,本文提出了两种不同的递归神经网络模型,并最终证明了模型的有效性。所得研究成果如下:1.提出了一种增广拉格朗日神经网络解决非凸光滑问题。基于KKT条件的收敛理论以及罚函数思想,提出了一种解决带等式与不等式约束非光滑凸优化问题的拉格朗日神经网络模型,与传统的拉格朗日神经网络模型相比,本文所提的模型具有两个增广函数,使网络模型的收敛速度得到了极大的提升。最终通过仿真证明了模型的有效性。2.提出了一种无需计算罚因子的递归神经网络以解决非凸非光滑优化问题。首先,基于微分包含理论,构造了一种新的解决带等式约束和不等式约束非光滑非凸优化问题的递归神经网络模型。所提出网络模型优点有:1)与传统基于罚函数的神经网络模型不同,该模型无需计算罚因子。2)许多模型的网络模型的初始点往往只能在一个有界球体内选取,而此模型的网络初始点可以任意选取。3)目前,所提出的大部分模型仅能解决目标函数为凸的优化问题,而此模型可解决一类目标函数为非凸的优化问题。理论证明了当目标函数有下界时,神经网络的解轨迹在有限时间内收敛到可行域。同时,神经网络的每一个聚点都是优化问题的关键点。