随着科技水平的不断发展，人们对工程系统的功能和稳定性的要求越来越高，在实际应用中出现的问题也越来越复杂，运用传统的线性理论早已不能满足研究的需要，必须依靠非线性理论，考虑非线性项的影响，才能合理的解释系统中存在的复杂力学现象，因此现在许多实际工程问题都是通过高维非线性系统来描述。　　目前对这种复杂非线性系统的全局分岔和混沌等复杂动力学行为的研究，主要通过解析研究和数值模拟两种手段，利用数值模拟可以直观的发现不同参数条件下系统的分岔与混沌现象，这种方法直观、简单易行有很强的应用价值，但讨论的参数范围有限且对其非线性本质缺乏理论上的合理解释。高维非线性理论尚不成熟还在不断的发展完善，目前主要包括广义Melnikov法和能量相位法两种方法，其中能量相位法与广义Melnikov法相比具有计算相对简单且意义直观等优点，因此迅速的被运用到工程实际问题中。　　本文研究的两类工程系统为热载荷下环型桁架空间可展天线系统和面内载荷和横向载荷联合作用下的碳纳米管增强复合材料板。从Galerkin离散后的非线性动力学方程入手，运用多尺度法进行摄动分析，得到一个四维近可积Hamilton系统，讨论了系统的未受扰部分的动力学行为和扰动项对系统流形的影响。运用能量相位法验证了一定参数条件下系统中存在多脉冲跳跃轨线，进而证明了系统中存在Smale马蹄意义下的混沌。本文的研究内容主要包括以下几个章节　　(1)对热载荷下环型桁架空间可展天线系统横向振动的非线性动力学方程在1∶2内共振情况下运用多尺度法和坐标变换，得到四维近可积Hamilton系统，讨论了未受扰动系统的动力学行为，对未扰动系统内的不同类型轨线对应的物理意义进行了解释。　　(2)讨论扰动项对系统流形的影响，并对后两维系统进行时间尺度变换，讨论慢变时间系统受扰动前后的动力学，运用能量相位法说明了在一定参数条件下系统中存在多脉冲混沌。通过数值模拟描述系统相图，验证系统中存在混沌运动。　　(3)给出了横向载荷和面内载荷联合作用下碳纳米管增强复合材料板结构的力学模型和两自由度的横向振动的非线性动力学控制方程，运用多尺度法对控制方程进行摄动分析，得到系统在1∶3内共振情况下的平均方程组。运用规范型理论对方程组进行化简，讨论了化简后系统的未受扰动部分的动力学行为。　　(4)讨论碳纳米管增强复合材料板的受扰动近可积系统的非线性动力学行为，验证在一定参数条件下，碳纳米管增强复合材料板结构中存在多脉冲混沌运动。用能量-相位法验证了系统中存在Shilnikov型多脉冲跳跃轨线和Smale马蹄意义下的混沌，并对系统进行了数值模拟，利用数值结果进一步验证了理论分析。