该文主要研究非线性优化中的信赖域方法.其中包括信赖域子问题的构造、求解以及在约束优化及半定互补问题中的应用.全文共分六章.第一章:简单介绍信赖域方法的起源及发展现状.第二章:给出了带记忆的信赖域子问题模型.该模型不仅包含当前点的信息而且包含着过去迭代点的信息,从而使我们可以从更全局的角度来求得信赖域试探步,避免了传统信赖域方法中试探步的求取完全依赖于当前点的信息而过于局部化的困难.将此模型应用到凸约束优化及等式约束优化问题,在几种不同的非单调信赖域技术下,获得了方法的全局收敛性.第三章:利用谱投影梯度方法与一个新的非单调线搜索技术给出了求解信赖域子问题的一个方法,在一般的假设条件下获得了方法的全局收敛性.第四章:分析了求解一般非线性方程组的有效集信赖域-CG方法的全局收敛性.将一般非线性方程组问题转化为带非负约束的极小化问题,并利用有效集信赖域对其进行求解,其中信赖域子问题是利用截断共轭梯度方法求解的.在不需要聚点存在的条件下获得了算法的全局收敛性.第五章:将Nocedal与Yuan的组合信赖域与线搜索技术应用到等式约束优化问题.通过求解某一信赖域子问题及对罚因子的矫正,证明了信赖域步为价值函数提供了一个下降方向.为允许负曲率方向及克服Maratos效应,我们在信赖域试探步中加入二阶校正步,线搜索时采用非单调技术.在一般信赖域方法的假设条件下,我们证明了该方法的全局收敛性及局部收敛速度.数值试验表明了该方法的有效性.第六章:给出了求解非线性半定互补问题的一个新的光滑效益函数,在不需要单调及Lipschitz连续的条件下,证明了效益函数的水平集有界且稳定点即为全局极小点.进一步地,给出了求解带半定约束极小化问题的信赖域算法,其中信赖域子问题是利用截断共轭梯度法近似求解的.