边坡的稳定分析和安全性评价对防治岩土灾害,保障人民生命和财产安全有着重要的意义。实际中的边坡破坏存在着空间效应,二维边坡稳定分析不能够反映出这种破坏特性,因此需要采用三维方法对边坡稳定性进行分析。同时三维方法还能够解决二维断面难以选取,二维反分析会过高估计材料强度参数等问题。本文为解决三维边坡稳定性问题,在二维有限元极限平衡法的理论基础上,建立了三维有限元极限平衡法。基于三维极限平衡状态,定义了局部安全系数,结合边坡三维极限平衡充分必要条件、主滑方向及滑动面滑动方向,给出了滑动面整体安全系数定义。建立了两种参数化构造边坡滑动面的方法:改进椭球构造方法和关键点插值构造方法。将两种滑动面构造方法与粒子群优化方法相结合,提出了两阶段最危险滑动面搜索模式。该搜索模式能对任意形状滑动面展开搜索,并提高了滑动面搜索效率与准确性。采用面向对象的程序设计方法,编写了三维有限元极限平衡法程序,将最危险滑动面搜索、滑动面构造、安全系数计算三个计算部分解耦,实现了程序的可拓展性。程序完成了将有限元计算结果导入计算程序的自动化,实现了计算结果的可视化输出,可用于实际工程的三维边坡稳定分析。采用了4个特殊算例（带有软弱夹层的边坡、楔形体破坏边坡、坡顶具有局部荷载的边坡和浅层边坡）以及一个实际工程（尾矿库主坝边坡）,将三维有限元极限平衡法计算结果与极限平衡法和有限元强度折减法进行了对比,验证了三维有限元极限平衡法的有效性、合理性以及优越性。并对网格尺寸、泊松比、剪胀角及边界条件对计算结果的影响进行了分析,对采用弹性有限元得到应力场计算安全系数的结果进行了合理性分析。选取了一个尾矿库工程实例,采用流固耦合模型有限元计算应力场,对尾矿库主坝边坡上游法和干堆法筑坝方案进行稳定性分析,比较了不同筑坝方案对边坡稳定性的影响,检验了三维有限元极限平衡法程序的可靠性与实用性。通过对以上内容的研究和分析,得出以下结论:（1）三维有限元极限平衡法能够计算三维任意形状滑动面的安全系数。对于同一滑动面的安全系数,有限元极限平衡法的结果略大于大部分采用了简化假设的极限平衡法,而与严格的极限平衡法结果相近。参数化滑动面构造方法与粒子群优化方法相结合得到的两阶段搜索方法能够找到最危险滑动面位置和对应的最小安全系数。这种方法获得的最小安全系数略小于有限元强度折减法按照计算不收敛判定得到的安全系数。（2）滑动面网格尺寸会影响安全系数。随着网格尺寸的减小以及网格数量的增加,安全系数逐渐收敛。有限元计算参数泊松比会影响安全系数,安全系数随着泊松比的增加而增加。当泊松比接近0.5时,有限元极限平衡法的结果接近极限平衡法的结果,两者更具备可比性。剪胀角对具有不对称结构面的楔形体破坏的安全系数影响小,但对主滑方向有影响。（3）改进椭球构造滑动面和关键点插值构造滑动面获得的安全系数没有显著差异,但两种方法的滑动面位置不同。值得注意的是,关键点插值构造滑动面可以反映模型的边界条件和几何属性对滑动面的影响。采用关键点插值方法搜索获得的最危险滑动面上的局部安全系数分布更光滑。（4）三维弹性有限元极限平衡法能够应用于安全系数小于1的边坡稳定性问题,安全系数和滑动面位置计算结果与强度折减法相近。流固耦合有限元计算得到的有效应力场可以被三维有限元极限平衡法用于分析固结和渗流条件的边坡稳定性。（5）三维有限元极限平衡法根据其安全系数定义式能够给出明确的安全系数和对应的临界滑动面,解决了强度折减法中存在的对边坡不同土层采用同一折减系数是否合理以及安全系数难以判别等问题。三维有限元极限平衡法还能够显示出局部安全系数,有助于渐进破坏的稳定分析。