高维耦合非线性系统的分岔和混沌,是当前国际上非线性动力系统的前沿课题之一.本文在已经取得的成果基础上,针对非线性系统中的若干问题,运用现代非线性分析方法,探讨系统复杂性的机理,分析物理参数和初始条件等各种因素对系统动力学行为的影响,进而揭示其复杂运动的本质,为解决实际工程系统中遇到的问题如非线性建模、参数识别和故障诊断等等,提供理论基础。本文首先分析了已具有静变形的受周期参数激励作用的浅拱在内共振条件下的动力学行为.根据解的稳定性判据,得到了物理参数平面上浅拱的定常运动分布情况,结合数值方法,详细分析了系统在各个区域内特别是在复杂动力学行为区域内的特性,指出了系统通向混沌的过程.其次在浅拱系统中构造0:1内共振条件,根据Kovacic和Wiggins提出的全局扰动方法,详细分析了异宿轨分岔,在扰动系统中考虑了二次项开折参数的作用,通过计算高维Melnikov函数,给出了Silnikov型同宿轨道产生Smale马蹄意义下混沌的必要条件,发现了更为丰富的分岔方式.第三,探讨了在工程中一类常见的三摆力学模型,综合考虑非线性阻尼的影响,运用中心流形定理和向量场范式理论,分析了系统特征方程具有三对非内共振纯虚根的退化情形时的定常解及其稳定性,发现了零解向高维环面解的两种不同演化方式.另外,运用数值方法分别验证了三种不同模型中理论分析的可靠性和有效性,最后总结了本文所取得的一些有意义结果,同时指出了存在的不足和今后工作的方向.