齿轮箱在机械设备中扮演着重要的角色,一旦发生故障将产生巨大的经济损失,甚至造成人员伤亡。因此,对齿轮箱的状态监测及故障诊断具有重要意义。齿轮箱振动信号通常含有大量噪声,难以准确提取其故障特征。因此,本文对基于稀疏表示的齿轮箱故障特征提取方法展开研究。首先,针对现有单一字典在齿轮箱故障振动信号重构精度方面效果欠佳的问题,提出基于齿轮箱分布式故障和冲击式故障信号数学模型的复合字典。结合正交匹配追踪算法对齿轮箱振动信号进行重构,通过与DCT、Fourier和Ilmf字典对比分析,所提复合字典的均方误差、信噪比和相似度等指标均优于其他三种字典。进一步研究了复合字典的抗噪性,结果表明复合字典对噪声具有较好的鲁棒性。其次,针对采用复合字典结合正交匹配追踪算法对振动信号重构后,仍需选择故障信息丰富的频带分量进行分析,而常用带通滤波、EMD等信号分解方法存在不能实现自适应分解或者模态混叠等问题。提出复合字典与包络频带优化傅里叶分解算法的齿轮箱故障特征提取方法。该方法对重构信号频带进行包络划分,有效克服傅里叶分解算法存在的模态混叠现象。通过与EMD和快速谱峭度方法进行对比分析,所提方法在提取齿轮箱的故障特征方面具有更优的性能。再次,针对复合字典原子参数存在主观选择的问题。提出基于翼装飞行搜索算法的稀疏表示参数优化方法,采用优化稀疏表示算法求解每次迭代复合字典最优字典原子的参数,提高了稀疏表示的重构精度,突出主要故障信息特征。通过与其他常用参数寻优算法对比分析,所提方法能够显著提高齿轮箱故障特征的提取精度。然后,针对正交匹配追踪算法在重构信噪比较低的振动信号需多次匹配才可能匹配到有效字典原子,从而增加计算量且有可能引入噪声的问题。从两方面对其进行改进,其一使用SVD构造过完备字典,其二使用最小方差和内积融合指标作为正交匹配追踪算法每次迭代选取最优字典原子的指标。提出基于尺度空间和改进稀疏表示的信号分解方法。通过与EMD和VMD分解算法对比,所提方法的时频特性更好,且无模态混叠现象,具有更好的特征提取效果。最后,搭建齿轮箱故障实验平台,对本文提出的齿轮箱故障特征提取方法的有效性进行验证。