对称性是自然界中普遍存在的现象,具有对称性的系统当中蕴含着某些重要的守恒性质。对于一般的动力系统,人们通常考虑的是系统中平衡点的稳定性,而对于具有对称性的Hamilton系统,相对平衡点成为人们研究的主要对象,因为它是相空间中相对特殊的点,即通过该点的轨迹恰好是一条群轨道,见定义3.2.1。在物理应用中,唯一可观测的平衡点是那些在小扰动下稳定的点,类似地,对称Hamilton系统中唯一可观测的相对平衡点也是那些在某些意义下稳定的点,也就是下面介绍的Gμ-稳定相对平衡点,这也是经典力学的一个核心问题。正是由于对称性和哈密顿结构的存在,对称Hamilton系统中相对平衡点的稳定性分析显得格外重要。自上世纪末以来,Marsden,Otega等人在这方面进行了深入的研究,很多现代辛几何和Poisson几何的理论以及约化理论被广泛的应用到相对平衡点的稳定分析当中,产生了能量-开西米尔方法、能量-动量方法。随后,这些方法被广泛的应用到刚体力学和流体动力学的稳定性分析之中,并取得了很多有价值的结果。 本文可以分为以下四个部分： 第一部分总结了动力系统中平衡点的各种稳定性的定义及判别准则,回顾了与对称Hamilton系统有关的基础概念,包括李群作用、标准动量映射,这为本文的研究奠定了基础。 第二部分介绍了对称系统的正则点约化理论,讨论了正则相对平衡点稳定性以及能量-动量方法、分块对角化方法,并研究了能量-动量方法与能量-开西米尔方法之间的关系。 第三部分在第二部分的基础上进一步研究了对称系统中奇异相对平衡点的稳定性,其中包括奇异约化理论、奇异相对平衡点的Gμ-稳定性与约化平衡点的Liapunov稳定性之间的关系。 第四部分通过两个例子-几何恰当杆和睡拉格朗日陀螺,详细阐述了第二、第三部分介绍的一般性理论的应用,验证了前面介绍的各种方法的有效性。