一类非单调线搜索的拟牛顿法和共轭梯度法研究

来源 :首都师范大学 | 被引量 : 0次 | 上传用户:wgp121554715
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文研究了一类非单调线搜索技术在无约束优化问题拟牛顿算法和共轭梯度算法中的应用.该类非单调线性搜索是属于Armijo型的线性搜索,其思想来源是戴(或)虹2002年提出的一类单调线搜索,他那里是和共轭梯度算法结合进行研究的.本文研究的这类非单调线搜索减弱了搜索终止条件,并且在每步计算步长因子αk时,引进适时变化的初始测试步长rk,而不是沿用最初提出的非单调Grippo-Lampariello-Lucidi搜索中的固定的初始测试步长α.如果初始测试步长的选取与梯度无关,那么本文研究的非单调线性搜索实质上是一类不带导数的线性搜索.它的单调情形,曾由Leone、Gaudioso和Grippo研究过,但那里仅就一类特殊的初始测试步长做了讨论;本文这里所做的收敛性研究并不依赖于初始测试步长。 第一章:前三节简要描述了拟牛顿法和共轭梯度法的原理、发展和研究动态.第四节,简介了非单调线搜索技术,列举出典型形式,其中有些是近年来的新结果.第五节简述了本文的创新点。 第二章:研究一类非单调线搜索在拟牛顿算法中的应用.众所周知,BFGS校正公式是数值表现最好的拟牛顿算法之一,本章在不对BFGS公式做任何修改的情况下,使其与一类非单调线搜索结合,证明了全局收敛性.一般地,非单调线搜索方法的全局收敛性证明常常需要满足:(1)充分下降条件:gTkdk≤-c1||gk||2,(2)有界性条件:||dk||≤c2||gk||,其中c1和c2是正数.这两个条件较强,一般的拟牛顿法难以满足.这也正是本问题研究难点.本文的一般性假设与文献[25]相同,比文献[69]有所减弱,特别是去掉了文献[63]所要求的搜索方向dk满足充分下降条件以及有界性条件的假设.数值结果表明了算法的有效性。 第三章:研究一类非单调线搜索在共轭梯度算法中的应用.目前比较多的共轭梯度算法研究是采用Wolfe单调线搜索进行的,通过构造Zoutendijk条件,利用反证法证明收敛性。这里研究的是一类Armijo型非单调线搜索共轭梯度算法的全局收敛性,证明思路没有采用上述方式.我们研究了非单调线搜索在四种共轭梯度算法中的收敛性情况.对于一般非凸函数,证明了这类非单调线搜索下修正的PRP方法的全局收敛性.在适当增加条件时,对一般非凸函数,证明了这类非单调线搜索下修正的DY方法、HZ方法和修正的FR方法的全局收敛性.通过数值结果比较了四种算法的优劣。 本文有如下创新点: (1)研究了一类线性搜索,数值结果表明,无论是单调搜索还是非单调搜索,它优于传统的Grippo-Lampariello-Lucidi搜索。 (2)对非单调线性搜索的研究,不依赖于充分下降条件和有界性条件。 (3)在一类非单调线性搜索下,证明了BFGS法和四种共轭梯度算法的全局收敛性。敛性
其他文献
诱导特征标研究群G的特征标与它的子群的特征标之间的关系,其主要目的是利用G的子群已知的不可约特征标来获得G的一些不可约特征标,从而了解G的结构.线性特征标是有限群的特征标
秘密分享是密码学的重要方向之一,自从Shamir在1979年提出了秘密共享体制以来,有关秘密共享体制的研究受到了广泛关注。Shamir的基于Lagrange插值法构造的秘密分享方案和后来
二阶锥规划(SOCP)是在有限个二阶锥笛卡尔积与仿射子空间的交集上极大化或极小化一个标量函数问题,其目标函数为线性函数.二阶锥规划是锥规划的分支,具有重要的理论意义和广
近几年来,生物数学的迅速发展,推动了许多研究领域如渔业、医学、农林学、生物信息学、细胞和分子生物学等的发展.其中,种群动力学是生物数学最经典和最广泛的研究领域之一.
本文主要研究KIP-内射模,以及平坦模的几种推广形式.   在第一部分中,我们引入了KIP-内射模,给出了KIP-内射模的一些等价刻画,研究了KIP-内射模和内射模的差异.我们给出了redu
世界经济的飞速发展,各国汽车的拥有量急剧增加,交通问题越来越受到大家的关注。为了提高交通效率、解决日益拥堵的城市交通问题,世界各国的许多专家学者都在研究智能交通系统(I