复杂系统内部各子系统间的连接关系构成了子系统之间的耦合，通过耦合，受激励的子系统上的能量可以传递到其他子系统。当子系统之间的耦合为线性耦合时，统计能量法可以很好地研究能量之间的流动，进而得到系统的响应估算。当子系统之间的耦合为非线性耦合时，传统理论方法不能很好地研究系统的动力学。本文对统计能量法的基础理论进行了研究，应用随机平均法研究随机激励下带有非线性刚度耦合的系统，得到了系统的响应估算。首先，建立起受随机激励的线性和非线性刚度耦合的双振子系统模型，建立相应的运动微分方程；然后，运用拟Hamilton系统随机平均法得到系统随机响应的理论估算；最后，与数值仿真结果进行了比较。同时，还对理论结果做了渐进分析，与统计能量法的结果进行了比较。通过将随机平均法和统计能量分析相结合，对非线性系统进行了响应估算，并且计算出耦合损耗因子，本文的理论研究工作是对非线性耦合情形下的统计能量分析的有效结合。结果表明随机平均法在非线性耦合系统的响应估算中有着很好的应用前景。