随着互联网技术的发展以及实际问题的需求,越来越多大规模的优化问题涌现。求解大规模优化问题的核心是设计有效的算法,并且其对算法的计算量和通信代价有一定的要求。而多步梯度法由于具有算法简单、储存量小、计算量小的特点,正是求解大规模无约束优化问题的有效算法。多步梯度法是一种利用迭代历史信息加快算法收敛速度的方法。本文首先介绍了几种经典多步梯度法以及其研究现状。在前人的研究结果的基础之上,本文提出了一种新的多步梯度法,进一步丰富了多步梯度法的研究,主要研究内容如下:本文给出了两步梯度下降法最优收敛率新的证明方法。过去的证明方法是直接求解系统矩阵的特征根,从而得到算法的收敛率。而本文引入了劳斯判据等控制领域的工具,劳斯判据可以直接判定其根的分布,而不必求解方程的根。与过去的证明方法相比,本文的方法更加简洁,易懂。此外,本文提出了一种三步梯度下降法,并详细分析了其线性收敛率。在本地目标函数为强凸函数且梯度利普希茨连续时,给出了其本地收敛的充分必要条件。通过双线性变换配合劳斯判据,本文建立了算法收敛率和参数之间的关系。基于此关系,本文得到了三步梯度下降法的最优收敛率并给出了详尽的证明。结果表明,当三步梯度下降法达到最优收敛率时,算法会退化到两步梯度下降法。