在岩土力学的研究中,稳定和变形问题一直是其两大核心问题,尤其是边坡的稳定性问题,一直是工程界研究的热点课题。在当前的边坡稳定性问题研究中,主要方法包括刚体极限平衡法和有限元强度折减法,而基于下限定理的下限分析方法在理论上具有严谨的力学基础,并且可以给出具有工程实用价值的安全系数,因此本文主要研究下限问题的变分不等式模型及其投影收缩算法。取得的主要成果和结论如下:(1)详细论述了极限分析理论的下限原理,介绍了岩土下限求解荷载的基本思路。(2)在下限定理的基础上,应用有限单元法建立了静力许可应力场,得到了其集合形式,并构建了相应的数学非线性规划模型。从理论上推导了下限原理与变分不等式之间的严密数学转化关系,证明了两者在本质上都属于凸优化问题。(3)推导了Mohr-Coulomb准则的投影解析解,从而为采用南京大学何炳生教授的投影收缩算法进行求解提供了基础。(4)最后基于MATLAB数值分析软件编制了变分不等式方法程序。以两个简单的求解土坡的极限荷载作为算例,比较了变分不等式方法与传统方法的计算结果,说明了本文提出的变分不等式方法以及程序的正确性。这是第一把变分不等式方法应用到该领域。