转子系统在航空航天、能源、电力、交通、石化等工业领域中发挥着重要的作用，比如:航空发动机、火箭发动机、汽轮机、压缩机、风机、水泵等。大型旋转机械设备运行的稳定性和安全可靠性成为生产中的首要问题，其在整个工业生产和国民经济中的重要性也日益突出。在实际工程中，旋转机械的不对中故障占转子系统故障的60％以上。转子不对中主要包括轴承不对中和联轴器不对中两种情况。大型旋转机械通常由多个转子组成，各转子之间通过联轴器连接轴系，传递运动和转矩。柔性联轴器由于具有结构简单、承载能力大、良好缓冲与减振能力、维修方便、成本低和具有轴向、径向位移补偿能力等优点而被广泛应用。在很多研究中，常将柔性联轴器处理为线性阻尼和线性刚度，这样的分析结果偏差较大，尤其是对于高速旋转机械。鉴于此，本文将从柔性联轴器的建模、动力学方程求解、含柔性联轴器转子系统的故障分析和稳定性分析以及故障诊断的角度入手进行研究。　　本文主要工作包括如下几个方面。　　(1) Wilson-Newton算法的研究　　利用有限单元法研究非线性振动问题，得出的精度较高，容易贴近真实情况;但由于含有非线性的振动模型自由度多，其求解时运算量较大。目前用于求解多自由度振动系统方程的常用方法主要有:中心差分法、Houbolt法、Wilson-θ法、Newmark-β。若将这些算法直接用于求解含有强非线性项的多自由度振动方程时，常出现结果不收敛或失真的情况，尤其是对于慢变和突变动力模型的研究。基于此，本文创新性的在Wilson-θ法中加入了Newton-Raphson迭代法（现将其命名为Wilson-Newton法），成功解决了收敛性和结果失真的难题，并且该算法还可以用于求解含有强非线性项、含有高次非线性刚度项或阻尼项的振动方程。该算法贯穿了全文每个章节的研究，充分的验证了算法的有效性。　　(2)建立柔性联轴器—悬臂转子系统的角度不对中模型并对其慢变和突变故障进行研究　　通过分析柔性联轴器的柔性材料的非线性特性对传递扭矩和弯矩的影响，在考虑系统不对中力矩、不平衡力的基础上，基于有限单元法建立了含有螺纹联轴器的悬臂转子系统的不对中模型;在Wilson-Newton算法中将非线性项表示为每一增量时间的有效载荷项和有效刚度矩阵项的一部分进行了求解。利用仿真和实验对比验证了模型的有效性。随后对联轴器角度不对中量随转速升高而发生慢变和突变的现象进行分析，建立了柔性联轴器—悬臂转子系统的慢变和突变故障模型，研究了其动力学特性及其Floquet稳定性和分岔特性。　　(3)众多转子故障信号中的不对中信号识别　　不同类型的转子故障的振动信号的特征频率不同，因此可以通过找出转子系统的常见故障信号的特征频率，识别其相应的故障类型。基于Duffing振子混沌特征建立微弱信号检测模型时发现:同样参数检测模型，却会得出不同的相变阈值，究其原因是由于仿真步长以及数值计算方法的不同;其相变阈值只要在一定范围内，利用Duffing振子混沌特征的检测模型均有效。由于工程信号的噪声量大，单独利用Duffing混沌特性的建立的诊断模型难以准确识别出不对中故障信号。但若该模型中加入计算最大Lyapunov指数，便可以轻易的从众多转子故障信号中识别出不对中信号。这说明在工程中为了保证对微弱正余弦信号的检测准确性最好利用计算加入故障信号后Duffing振子响应的最大Lyapunov指数值，观察其指数正负情况。　　(4)基于NOFRF理论的转子系统中联轴器不对中位置的识别　　基于NOFRF理论分析了多跨转子系统的联轴器不对中故障的非线性振动方程，对系统中出现的各次谐波分量进行研究，推导出了该类系统各个自由度各阶谐波分量的表达式。证明了该类动力学系统中各自由度之间高次谐波分量与原线性系统动柔度矩阵的相关元素存在正比关系，据此提出了一种简洁的局部非线性位置的辨识方法。采用这种方法，可以通过结构体中任意两个部位之间的高次谐波分量间的比值关系，经过一次谐波激励而辨识出非线性的具体位置。利用这个思想通过仿真成功的找到了多跨转子系统中联轴器出现不对中故障的位置。同时，利用该方法对实验中测试到的故障信号进行故障位置（包括轴承松动位置、碰摩位置等）识别，进一步验证了该算法的工程实用性。