非精确搜索下重新开始MFR共轭梯度法的收敛速度

来源 :湖南大学 | 被引量 : 0次 | 上传用户:anyjz
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
非线性共轭梯度法是求解最优化问题的一类有效算法,该算法的一个显著优点是其存储量小,且具有较好的收敛性,因此广泛应用于求解大规模的最优化问题.FR算法是最著名的非线性共轭梯度法之一.众所周知,采用精确线性搜索的FR共轭梯度法是全局线性收敛的,如果使用某种重新开始策略,则其收敛速度将为n步二次收敛.近来,ZHANG,ZHOU和LI结合谱梯度的思想提出了的一种修正FR算法(MFR算法),并证明了其在Armijo型线性搜索下的全局收敛性.本文研究Armijo型非精确线性搜索下MFR算法的收敛速度.   第2章,我们证明了MFR算法在Armijo型线性搜索下的线性收敛性.第3章,我们证明了LI和TIAN提出的一种精确线性搜索步长估计满足Armijo型非精确线性搜索,并将其作为线搜索的初始步长来提高算法的效率.我们将重新开始策略引入到MFR算法中提出一种重新开始MFR算法(RMFR算法),我们证明在一定的条件下,这种RMFR算法具有全局收敛性,并证明采用Armijo型非精确线性搜索时,此算法具有n步二次收敛性.   最后我们通过大量的数值试验检验本文提出的RMFR算法的数值效果.我们通过求解大量的大规模问题,从算法的CPU时间、函数计算次数和梯度计算次数三个方面对RMFR算法与和不采用重新开始策略的MFR算法、MPRP算法以及CG-DESCENT算法等进行比较.结果表明本文提出的RMFR算法具有明显的优势.  
其他文献
信息系统是一个有对象和属性关系的数据库.一个数据库的本质是一堆数据和这一堆数据之间的各种关系,因此数据库可以抽象的描述为对象集和对象集上的一些二元关系,根据这种思
根据各种不同理论和应用的需要,Orlicz空间有各种不同形式的推广,赋p-Amemiya范数Orlicz空间是其中的一种推广形式。本文对赋p-Amemiya范数Orlicz空间的对偶空间,局部凸性,和H性
近年来,对可靠度问题的研究是一个很热门的话题.可靠度是度量产品质量的重要指标,产品的可靠度不仅影响产品的性能,而且影响社会的安定,随着科学技术的发展,电子产品的广泛应用,系
本文主要研究了ω-smash余积的谱序列和整体维数,并对其κ0群进行了刻画。   第一章首先给出本文的研究背景,并在此基础上提出本文的研究问题,给出本文的主要结果;其次,简
混沌是非线性科学领域研究的重点之一,而且应用广泛。近年来,随着人们对混沌现象认识的不断深入,对混沌控制与同步的研究已经成为一个重要课题。尤其是应用领域越来越广泛,比如保
本文对基于直觉模糊集的推理方法及其应用进行研究,分为三方面:直觉模糊集的数字特征,基于直觉模糊集的推理方法和基于直觉模糊集的多准则决策。   研究了直觉模糊集的数
二模网络(又称二分网络)是一类重要的复杂网络,它的特殊性在于由两类节点组成,而不仅仅像单模网络由一种节点构成。二模网络在现实生活中经常出现,它真实而客观的反映了我们生活中