论文部分内容阅读
在求解大规模非线性规划和非线性方程组问题的时候,想要在每一步迭代过程中都得到精确解将耗费太多的时间,因此Dembo,Eisenstat和Steihaug提出了一种不精确牛顿方法用来求解大规模非线性方程组.在此之后,Dembo和Steihaug义将这类方法应用到求解无约束最小化问题中.
Byrd,Curtis和Nocedal曾提出过一种不精确序列二次规划算法求解大规模等式约束最优化问题.这种算法可以确保整体收敛性.在算法中,一个精确罚函数被用来判断非线性规划子问题的不精确解是否被接受.不精确算法的使用将可以节省大量的计算时间.
Fletcher和Leyffer提出了一类滤子方法,在这种方法中不会要求选取罚参数,而且它所得到的数值结果非常好.滤子方法的基本思想是寻找一个试探点,如果这个试探点能够改进目标函数的值(使目标函数下降)或者改进约束违反度(使其更靠近可行域),那么就接受该试探点.后来,滤子技术又被应用到许多方法中,例如,序列线性规划方法,序列二次规划方法(SQP),内点法等等.在此之后,Fletcher和Leyffer通过应用信赖域技术给出了滤子SQP方法的整体收敛性证明,Ulbrich又证明了算法的局部超线性收敛性.对于非线性等式约束优化问题,W(a)chter和Biegler提出了一种线搜索滤子方法并且讨论了它的整体和局部收敛性.
根据上面的思想和方法,本文提出一种结合线搜索滤子技术的不精确SQP方法,该方法将能够确保整体收敛性和q阶局部超线性收敛速率.Fletcher和Leyffer曾注意到滤子方法类似于罚函数法同样会遇到Maratos效应,因此文章中将采用二阶修正步来克服Maratos效应.另外,文中还将证明算法产生的点是q阶超线性收敛的.
投影既约Hessian方法和正割方法是求解非线性规划的两种最成功的方法.
Coleman和Conn最早提出了使用近似双边投影既约Hessian阵的SQP算法.为了处理大规模问题,Gurwitz提出一种双边投影既约Hessian矩阵的两块矫正法.既约Hessian方法只需要Lagrangian函数的Hessian阵的部分信息,因此,在每步运算中所需要的储存量较少.本文将提出一种结合线搜索滤子技术的不精确双边投影既约Hessian方法.文中使用Lagrangian函数来代替滤子中的目标函数,如此做可以克服Maratos效应,这样就避免了二阶修正步的计算.另外,文中将证明算法的q阶超线性收敛性.
最近,针对非凸等式约束优化,Byrd,Curtis和Nocedal提出了一种不精确牛顿方法.该方法允许负曲率的存在,而无需非凸问题的原始对偶迭代矩阵的惯性信息.本文将提出一种不精确的投影既约Hessian方法解决非凸问题.采用线搜索技术以及将Fletcher罚函数作为价值函数,能够确保算法的整体收敛性.
在大多数的既约Hessian方法中,当前迭代点xk相应约束的切空间的正交基会随着k改变而改变.相比之下,正割方法具有的优势是它使用一个连续的正交投影算子.正割算法的基本思想可以归纳为:在每步迭代中,方向步由水平方向步和垂直方向步合成.本文将提出一类改进的具有整体收敛性的不精确正割方法,这种方法还具有q阶局部超线性收敛速率.此外,通过使用Fletcher罚函数作为价值函数避免了Maratos效应.还将证明在每次迭代中,如果对约束进行一次额外的计算,新的算法将具有一步q阶超线性收敛性.针对非凸问题,本文同样给出一类不精确正割方法,在这类方法中,将采用l1罚函数作为价值函数.
对于带边界约束的半光滑方程系统,可以使用Levenberg—Marquardt方法去寻找解集中的至少一个解.Levenberg—Marquardt方法是一种改进的高斯牛顿法.Yamashita和Fukushima证明了在一些假设条件下该方法具有二次收敛速率.本文将提出一种不精确的仿射内点Levenberg—Marquardt方法.
最后,本文对主要的研究成果进行了总结.