本文围绕着新型信号处理方法Hilbert-Huang变换(HHT),对HHT变换理论及其在结构动态性能分析中的应用进行了较为全面系统的研究。首先,文章介绍了HHT变换的基本理论,对经验模态分解(EMD)理论和Hilbert变换进行了详细的阐述。由于HHT变换理论自身没有建立严格的数学理论基础,在实际应用中存在多种问题。本文对其中的模态混淆现象、固有模态判据问题、包络拟合方法和端点效应问题等问题进行了相关研究,提出了相应的改进方法,通过数值仿真说明了改进方法是有效的。其次,在对HHT变换理论详细研究的基础上,针对应用HHT变换理论识别结构的振动模态参数进行了主要研究。包括应用HHT变换从结构的动力响应中识别结构的模态频率、模态阻尼比、模态振型以及如何分离出密集模态等方面进行了研究,得出了一些有益的结论。最后,通过对悬臂梁结构进行模态试验分析测得悬臂梁结构的动力响应数据,然后应用HHT变换识别出悬臂梁结构的结构振动模态参数,验证HHT方法识别模态参数的有效性。