复杂系统存在于各个研究领域,相关研究被国内外许多科学家认为是21世纪科学发展的前沿,复杂系统分析、建模优化、模拟、预测与控制的研究具有重要意义.复杂性大都起源于非线性,是非线性科学研究的重要内容,某些演化性质可以用非线性微分方程解的特点来反映.许多复杂系统中存在Chaos(混沌)现象,复杂系统的研究中很重要的一个内容就是"混沌边缘",近年来混沌与工程技术联系越来越密切.因此研究混沌系统的本质,了解它的动力性态,研究控制方法对实际应用有重要意义.Chaos相关问题的研究是国际热点.判断三维自治系统存在Chaos的一个方法是Shilnikov定理,已应用在分段线性Chua系统.定理的前提条件除对特征根的限制之外,就是同宿轨或异宿轨的存在.同宿轨和异宿轨的相关研究也是定性理论中的一个重要研究问题.我们直接针对一类二次多项式系统,构建了形式简洁的n维双曲系统平衡点稳定、不稳定流形的级数表达式,用于对Chaos系统同宿轨和异宿轨相关问题的研究.利用一维稳定(不稳定)流形和二维稳定(不稳定)流形的级数表达式,提出了一种证明系统同宿轨的新方法.应用此方法证明了Lorenz系统在参数a=10,b=8/3,c=13.926575下原点存在同宿轨,找到并证明了Lorenz系统在a=10,b=1,c=8.17时原点也存在同宿轨.提出了局部表达式结合大范围的数值仿真的方法,利用Chaos吸引子的一致有界性,证明了Lorenz系统在参数a=10,b=8/3,c≈28和Chen系统在参数a=35,b=3,c=28下原点之外的两个奇点不存在异宿轨,并验证了两个系统在相应参数下原点的同宿轨的不存在.