分形是现代数学和非线性科学研究中一个非常活跃的分支，它可以理解为局部和整体在某方面存在相似性。在分形理论中，分形维数是一个非常重要的参数，可以定量的描述非线性系统的分形特征，度量信号的空间填充能力，已经被广泛应用于多个领域。在机械故障诊断方面，不同的故障状态下，非线性因素对机械振动信号的影响是不同的，分形维数可以有效的度量机械系统的故障特征、识别机械设备的故障状态。本文以分形理论为基础，主要围绕分形维数特性和分形故障诊断方法两个方面展开深入的研究。针对分形盒维数对噪声不敏感的现象，研究了盒维数的抗噪性能。在不同噪声强度的影响下，改变信噪比，对分形盒维数的抗噪曲线进行分析。在该曲线中，定义了分形盒维数的抗噪性能边界点，以此为基准，将抗噪曲线划分为两个区域，分别对每个区域内的曲线变化趋势进行分析，揭示了分形盒维数的抗噪特性。对于单重分形故障诊断，以分形盒维数为故障特征量，讨论了单重分形故障诊断的一般方法，验证了分形盒维数对机械振动信号的定量度量能力和对故障状态的识别能力。多重分形可以在多个测度下对非线性信号进行定量的度量，不仅可以描述信号的整体特征，还能够刻画信号的局部性和不均匀性。多重分形故障诊断以样本序列为基础，采用相关性判断方式实现设备状态识别，扩大了分形故障诊断的应用范围。在多重分形故障诊断的基础上，结合信号分解方法，将分形故障诊断的特征量扩展为矩阵形式，实现分形特征量从单重分形维数、广义维数到分形矩阵的延伸与发展。同时，对广义维数的相关性判断法进行改进，提出了适用于矩阵式分形特征量的相关系数计算方法。为了使分形矩阵的构建不局限于一种信号分解方法，分别研究了经验模式分解和小波、小波包分解的基本原理，并以此为基础，实现了基于矩阵式特征量的分形故障诊断，使矩阵式分形特征量的构建适应于更多的信号分解方法。为了使分量信号的选择不受信号分解方式的限制，提出了基于相关系数的分量信号选择方法，采用该分量信号选择方法可以有效的提高矩阵式分形特征量的故障识别能力，更好的区分故障状态、判断故障类型。高频噪声对分形故障诊断的效果产生了很大的影响，为了抑制这一不利因素，分析了随机共振的机理，重点研究了级联双稳随机共振的滤波特性，并将其与广义维数相结合，应用于高频大噪声背景下的机械故障诊断中。级联双稳随机共振可以利用高频噪声增强低频信号的能量，使分形维数具有更强的状态识别能力，提高了故障诊断的有效性。