论文以大型柔性航天器为研究对象，考虑柔性航天器中存在的模型不确定性、外界干扰、输入饱和等不利因素，根据柔性航天器动力学及控制技术的研究现状，从理论和实验两个方面，对柔性航天器的非线性刚柔耦合动力学建模、姿态控制系统设计、柔性结构的振动抑制等进行了深入研究，主要内容包括以下几个方面的工作：　　随着柔性航天器大型化、敏捷化、高精度化的发展，对动力学模型的精度要求越来越高，传统刚柔耦合模型局限性越来越明显。为充分体现柔性体的变形与其大范围空间运动之间的相互耦合，建立柔性航天器一次近似刚柔耦合动力学模型。通过在梁的变形位移场中计及在结构动力学中忽略的二次耦合项，利用Hamilton原理导出了非线性偏微分形式动力学方程。采用有限元法对方程进行离散，得到了包含动力刚度项的柔性航天器一次近似刚柔耦合动力学模型，并对其适用性进行了分析。　　针对采用强非线性一次近似刚柔耦合动力学描述的柔性航天器，在考虑存在模型不确定性和干扰的情况下设计鲁棒控制器的问题，基于Lyapunov方法分别设计了自适应变结构姿态调节控制器、及参考轨迹为时变信号的姿态跟踪控制器，并证明了姿态角和角速度误差的收敛性。设计的控制器仅利用输出信息，从而避免设计柔性模态状态观测器，避免引入状态观测器误差，仿真结果验证了其有效性。　　针对航天器柔性结构的振动主动抑制问题，考虑当航天器存在大范围运动时，柔性结构动边界模态与定边界模态特性的不同，设计振动抑制延时控制器。进一步考虑当存在控制输入饱和时，提出了一种内闭环延时控制方法，将输入成形器引入到控制内闭环中，使得即使控制力矩输出饱和也能抑制柔性结构的振动。针对使用喷气推力器作为执行机构进行快速姿态机动时的振动抑制问题，提出了一种闭环开关序列控制技术，避免激起柔性附件的持续振动，使得柔性航天器能够利用喷气推力器进行平稳大角度机动。　　针对一类大范围运动的柔性航天器姿态跟踪问题，为进一步提高跟踪控制性能，提出了一种自适应变结构神经网络控制方法。利用在线自学习多层神经网络补偿系统非线性项及未建模动态，利用变结构项补偿神经网络逼近误差及外部干扰。控制器只利用姿态角和角速度信息进行反馈控制，不需要精确知道系统模型及柔性附件的振动信息。仿真结果表明，该方法有效地提高了跟踪精度，对外部干扰具有很强的抑制能力。　　针对柔性航天器刚柔耦合非线性动力学特性、姿态机动与跟踪控制方案的可行性、延时控制振动抑制效果等的实验验证问题，利用现阶段的技术成果，基于单轴气浮台设计了一套柔性航天器地面实验系统。对实验系统的方案设计、软硬件设计、接口设计等进行了详细的论述。实验系统基于总线结构，设备模块化、通用化，大大简化实验系统设计的复杂性。通过地面实验系统，对文中提出的相关技术进行了验证，结果表明了其有效性。