非线性优化问题的一类共轭梯度算法研究

来源 :首都师范大学 | 被引量 : 3次 | 上传用户:dyq135621
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
对于非线性优化问题寻找快速有效的算法一直是优化专家们研究的热门方向之一.经理论证明和实践检验,在所有需要计算导数的优化方法中,最速下降法是最简单的,但它速度太慢;拟牛顿方法收敛速度较快,被广泛认为是非线性优化最有效的方法之一; 1964年Fletcher和Reeves提出了求解无约束极小化问题的共轭梯度法<[1]>,它是直接由Hesteness和Stiefel解线性方程组的共轭梯度法发展而来的,共轭梯度法具有占用内存少,二次终止性和良好的数值表现等优点,它的基本思想是把共轭性与最速下降方法相结合,经常用来解决大规模问题.然而当目标函数为一般的非线性函数时,即使在精确线搜索下,各共轭梯度法的收敛性也很难保证.在文献[2]中Al-Baali证明了Fletcher-Reeves方法具有全局收敛性,文献[5]推广上述结果到非精确搜索即强wolfe线搜索的情形,但因其可能连续产生小步长的性质使得FR方法在数值计算中有时表现很差:PRP和HS方法是数值表现较好的两种轭共梯度算法,但是Powell在[3]中指出,即使使用精确线搜索Plak-Ribière-Polyak方法也不会有全局收敛性,但此方法具有良好的数值表现(详见[13,19,33]).随后有许多学者对这些算法的全局收敛性做了更深刻的研究, 1997年L.Grippo和S.Lucidi提出了 Grippo-Lucidi线搜索,并证明了在此线搜索下Plak-Ribière-Polyak方法的全局收敛性(参见[27,28]).1995年戴或虹和袁亚湘提出了DY法,并对这一方法的全局收敛性和内在性质做了详细的研究.DY方法具有很好的收敛性,Dai在文献[10]中系统的介绍了DY方法在一般线搜索下的全局收敛性,但其数值表现一般.为寻求既能保证具有较好收敛性质又具有良好数值表现的共轭梯度类算法,在前述文献的基础上本文给出了求解无约束非线性优化问题的一类新的共轭梯度算法.数值实验表明此类算法是有效的. 论文整体安排如下: 在第一章中,我们首先简要介绍了最优化问题的提出以及判断最优解常用的最优性条件,回顾了无约束优化问题常用的几类导数下降类算法. 在第二章中,就一般共轭梯度法的迭代格式,受Dai-Yuan共轭梯度算法提出的启发,我们给出—个新的共轭梯度算法,算法中新参数的选取保证了搜索方向的下降性,并证明新算法在Wolfe线搜索下具有全局收敛性.在第三章中,基于第二章中给出的新参数给出了另一个新参数,并证明此算法在强Wolfe线搜索下具有搜索方向的充分下降性和算法的全局收敛性.
其他文献
随着我国经济的飞速发展和社会的迅速进步,加快了我国市政工程建设的步伐,市政工程建设具有投资大和施工周期长的特点,市政工程建设中的造价控制水平的高低关系着市政工程建设能
期刊
本文根据地震油气物化探工作中使用的方法参数多、信息量丰富、综合异常结构相对比较复杂等特点,从实际工作的要求和需要出发,在高维数据降维方法方面进行了一些探索,并给出了其
混凝土质量决定着建筑工程质量,它对建筑工程的安全和建筑工程的造价有较大影响,从配合比设计前的充分准备工作、混凝土原材料的质量控制、生产配合比的调整及施工中的控制等方
期刊
没有文化的旅游是灵魂出窍的旅游;没有旅游的文化是魂不附体的文化。因此做好二者之间相互融合的文章对促进旅游文化产业的发展至关重要。蓬莱市具有丰厚的历史文化资源需要进
期刊
建设一个依法行政的法治政府是全社会的共同追求。在建设过程中,明确建设的目标是千里之行的第一步。本文通过对法治政府建设目标的描述和界定,力求做出有关法治政府建设目标的
期刊
基于VaR约束下的投资组合决策模型,是在原有的马科维茨投资组合理论的基础上发展起来的,为投资组合理论的研究开辟了新天地。这一模型的产生使得人们的投资观念发生了很大变化.
学位
库存管理是供应链管理的重要组成部分,是供应链上各节点企业实现合作以及供应链实现集成管理的关键所在.随着全球经济一体化的发展和技术进步,形成了以买方为主导的市场,企业必须
本文前大半部分主要研究了期望不为零的Gaussian过程,在时间区间变化时的水平通过概率以及大小偏差概率的估计问题,因为相应于期望为零的某些特殊的Gaussian过程(例如过程本