论文部分内容阅读
非线性共轭梯度法是求解最优化问题的一类有效算法,该算法的显著优点是存储量小,且具有较好的收敛性,因此被广泛应用于求解大规模的最优化问题。但是,有些传统的共轭梯度法不能保证产生的方向是下降的,而有些虽具有下降方向但其下降性较强依赖于算法所采用的线性搜索。
最近几年,求解最优化问题的具有下降性的共轭梯度法引起了学者们地广泛关注,已提出了许多具有良好收敛性质和数值效果的下降共轭梯度法。本文进一步研究了由Zhang等提出的修正的FR(MFR)算法和修正的PRP(MPRP)算法。与提出新算法不同,本文研究由MFR算法和MPRP算法的凸组合形成的一类下降共轭梯度法。这类算法包含MFR算法和MPRP算法而又作为特殊情形。
第二章提出这类算法并研究该类算法的性质。我们证明这类算法保持了MFR算法和MPRP算法的共同优点:(1)算法产生的搜索方向满足充分下降性,这种性质不依赖于算法所采用的线性搜索;(2)当采取精确线性搜索时,算法具有二次终止性。
第三章研究当采用两种不同非精确线性搜索时这类算法的收敛性。我们首先证明,这类共轭梯度法当采用Armijo型线性搜索,用于求解非凸函数极小化问题时具有全局收敛性。然后,我们证明当采用Wolfe型线性搜索时,该类算法用于一致凸函数极小值问题求解的全局收敛性。
最后,通过大量的数值试验对该类算法进行数值检验。我们检验当采用Armijo型线性搜索,算法类中取不同参数时相应算法的数值结果,同时将数值效果较好的算法与MFR算法、MPRP算法进行数值比较。