本论文在国家自然科学基金(51075372，50775208，51265039)，江西省教育厅科技计划项目(No. GJJ12405)和湖南省机械设备健康维护重点实验室开放基金(201204)资助下，针对传统整数阶微积分在裂纹转子系统建模中存在的不足，提出了基于分数阶微积分的裂纹转子故障诊断方法，并对分数阶阻尼裂纹转子系统动力学特性进行了仿真研究和实验研究，并取得了很好的创新性成果。本文主要内容包括以下几个方面：1、论述了分数阶微积分定义和性质、分数阶微积分算子的离散化方法以及分数阶微积分与整数阶微积分的区别和联系。2、在非线性涡动下，建立了分数阶阻尼裂纹转子系统模型，讨论了分数阶阶次、转速和裂纹深度对分数阶阻尼裂纹转子系统动力学特性的影响，研究结果表明，分数阶阶次的改变对系统运动特性有很大的影响，因此，可以通过改变分数阶阶次来调节系统的非线性动力学特性；随着转速比的增大，系统依次经历混沌运动、倍周期运动和单周期运动，1X、2X和3X等成分相继出现，转轴的变形显著变大，涡动行为比较复杂，裂纹转子将呈现复杂的非线性行为；裂纹深度比较小时，引起的转子刚度变化量不大，一般不会出现复杂的分叉与混沌现象。随着裂纹深度的加深，转子的刚度减小，转子系统呈现复杂的振动特性，裂纹故障特征越来越明显，转子系统由单周期运动变换到混沌状态，二倍频分量占主导地位，同时，其他倍频分量也相继出现，实验结果验证了建立的模型的准确性。另外，利用数值方法对比研究了在相同条件下整数阶阻尼裂纹转子系统和分数阶阻尼裂纹转子系统的动力学特性，得出分数阶模型能更丰富的反映转子系统中的裂纹故障信息。3、结合在分数阶微积分的基础上建立的裂纹转子系统模型和小波尺度谱，提出了基于小波尺度谱的分数阶阻尼的转子裂纹故障诊断方法，并讨论了不同的裂纹深度下分数阶阻尼的裂纹转子系统的小波尺度谱和重分配尺度谱特性。仿真结果表明，提出的方法对裂纹故障敏感，能有效地提取裂纹转子系统中的故障信息。最后用实验进行了验证。4、应用应力强度因子为零法求解了斜裂纹转子系统的刚度，建立了分数阶阻尼斜裂纹转子系统模型，用龙格库塔法和连分式Euler法对其进行了数值仿真，讨论了分数阶阶次、转速和裂纹深度对斜裂纹转子系统动力学特性的影响，结果表明，随着分数阶阶次的增大，扭转激励频率幅值明显增大；随着转速的增加，一倍频成分逐渐变大，二倍频成分变小，其他频率成分无太大变化，轴心轨迹图从内8字型逐渐变为没有重叠在一起的椭圆型；随着斜裂纹深度加深，裂纹转子系统横向响应频率幅值随之增大，二倍频频率成分显著增大，出现扭转激励频率成分和其他耦合频率成分，并用实验研究进行了验证。