随着航天科技日新月异的发展和航天任务的多样化，航天器姿态控制及其柔性附件的振动控制面临更高要求。控制力矩陀螺作为航天器姿态控制的一种执行机构，具有输出力矩大、响应速度快、使用寿命长、精度和稳定性高等优点，因而在航天工程中得到了广泛应用。本文针对以控制力矩陀螺作为执行机构的航天器姿态机动和柔性附件结构振动控制等问题开展研究。主要工作和贡献如下。　　(1)介绍了控制力矩陀螺的分类和特点，分析了控制力矩陀螺产生控制力矩的原理。在此基础上，以航天器和控制力矩陀螺群作为整体系统模型，建立了基于四元数描述的航天器运动学和动力学方程。在不考虑具体执行机构的情况下，基于Lyapunov稳定性理论，分别采用状态反馈控制和输出反馈控制，对航天器姿态机动和振动控制进行了研究，其中以设计的角速度观测器和模态观测器来代替航天器真实角速度和模态信息作为反馈控制量。基于无源控制方法，通过消除反馈控制量中的四元数导数项，建立了仅基于四元数测量的动力学控制器。　　(2)针对单框架控制力矩陀螺自身存在的奇异性问题，阐述了奇异性产生的原因和类别。对伪逆操纵律、奇异鲁棒操纵律和广义奇异鲁棒操纵律等进行了对比分析。基于奇异值分解的方法对上述操纵律的规避或克服奇异的机理进行了研究。最后，采用广义奇异鲁棒操纵律对金字塔构型单框架控制力矩陀螺群进行了数值仿真验证。　　(3)针对传统控制方案容易出现奇异性的问题，基于斜交构型变速控制力矩陀螺群，采用非线性模型预测控制方法实现了航天器的反馈控制。以控制力矩陀螺的状态变量作为系统控制输入，将控制力矩陀螺的奇异问题转化为系统状态变量与控制输入受限的控制问题。在考虑航天器和控制力矩陀螺间的动态交互的情况下，以航天器姿态及角速度跟踪误差和控制力矩加权组合建立优化指标，对系统进行状态预测并实现优化问题的求解。仿真结果验证了非线性模型预测方案对整体系统控制的有效性。