互补问题自1963年首次提出以后便得到了广大研究者的重视，一直是数学规划研究中较为活跃的分支，在求解互补问题的算法的研究领域也取得了丰硕的成果。本文一方面基于现有的各种光滑牛顿法的思想和半光滑理论，利用著名的Fischer-Burmeister互补函数的光滑形式，首先将互补问题的求解转化为求解一系列光滑的非线性方程组，然后用牛顿法求解该系列方程组，从而得到了互补问题的一类光滑牛顿算法，光滑因子 和控制函数 的引入使得该算法全局收敛并在一定条件下局部超线性收敛；另一方面，鉴于求解最小二乘问题的算法的研究比较成熟，本文给出一个新的互补函数，利用该互补函数将互补问题转化为一个最小二乘问题，进而构造了互补问题的L-M算法并从理论上给出了最小二乘问题的解是原互补问题解的一个充分条件。数值实验也进一步说明了该算法的高效性。 全文共分为四章，各部分内容安排如下：第一章是绪论部分，介绍了互补问题的应用背景和近年来有关互补问题求解方法的研究成果，并简单介绍了本文的主要研究内容；第二章是本文的重点，构造了求解互补问题的一类光滑牛顿法，从理论上证明了算法的全局收敛性和局部超线性收敛性；第三章给出了一个新的互补函数，利用此函数将互补问题转化为一个最小二乘问题，从而得到了互补问题的L-M算法并取得了很好的理论和数值效果；最后一章是对本文的总结和对将来研究工作的展望。