随着航天任务的不断拓展，以小卫星技术为基础的航天器编队飞行技术已经成为航天领域的研究热点，在民用领域、科学领域和国防军事领域都展现出了巨大的应用价值。作为航天器编队飞行的关键技术，编队航天器间的协同控制引起了广泛的研究。本文在总结现有研究成果的基础上，基于图论和一致性算法，对复杂通信条件下航天器编队协同控制问题进行深入研究，主要包括以下几个方面的内容：
　　首先，研究了无向通信拓扑情形下的编队协同控制方法。在不考虑外部扰动的前提下，利用图论和一致性算法，对部分现有的研究工作进行改进，分别提出了航天器编队分布式协同控制算法和有限时间协同控制算法。进一步，为了避免编队协同控制中出现执行器饱和的情形，通过在协同控制器中引入双曲正切函数，提出了考虑输入受限因素的有限时间编队协同控制算法。仿真结果表明，所提出的编队协同控制器在无向通信拓扑条件下不仅能够完成航天器编队的位置跟踪，还可以实现暂态过程中航天器编队的队形保持。
　　其次，研究了编队航天器间的通信拓扑为有向图情形下的编队协同控制方法。考虑编队航天器间的通信拓扑为有向图且包含有向生成树的情形，利用滑模控制的思想，设计了基于多航天器线性滑模面的编队协同控制器。假设编队航天器受到的扰动及其导数有界，设计了一种基于Terminal滑模的有限时间扰动估计器，并引入到闭环系统中补偿外部扰动的影响。为了实现有限时间编队协同控制，设计了基于多航天器分布式Terminal滑模面的编队有限时间协同控制算法。此外，针对仅有部分航天器能够获得期望状态信息的情形，提出了一种编队自适应协同控制器，解决了期望状态局部可知情形下的编队协同控制问题。仿真结果验证了有向通信拓扑情形下，所提出的编队协同控制算法的有效性。
　　再次，研究了编队航天器间存在通信时延和拓扑切换情形下的编队协同控制方法。针对编队航天器间存在时变通信时延的情形，提出了一种基于变结构控制的鲁棒编队协同控制器，并且进一步将所设计的控制器拓展到航天器编队存在有限个拓扑切换的情形。考虑编队跟踪速度受限的因素，引入双曲正切函数构造了虚拟速度控制项，然后通过设计有限时间控制算法，保证了闭环系统的有限时间稳定性。针对编队航天器间存在任意有界通信时延的情形，提出了一种基于反步控制方法的编队协同控制算法。所提出的三种编队协同控制器不仅都考虑了通信时延因素的影响，而且将编队航天器间的通信连接从无向通信拓扑拓展到了强连通有向通信拓扑。利用数值仿真对前述控制器的有效性进行了验证。
　　然后，研究了编队航天器无速度测量输出情形下的输出反馈协同控制方法。考虑编队航天器间的通信连接为无向通信拓扑的情形，采用无源滤波器的方法构造编队航天器的速度信息，进而考虑输入受限因素的影响，结合有限时间控制思想，设计了一种基于输出反馈的有限时间编队协同控制器。为了解决有向通信拓扑情形下的编队协同控制问题，针对单个编队航天器提出了一种自适应有限时间速度观测器，保证编队航天器的速度观测误差能够在有限时间内收敛到零值附近。在所提出的速度观测器的基础上，同时针对编队中存在的任意有界通信时延，设计了一种基于速度观测器的编队输出反馈协同控制器。仿真结果表明，在编队航天器无速度测量输出的情形下，所设计的编队协同控制器不仅能够完成航天器编队的位置跟踪，还可以实现暂态过程中航天器编队的队形保持。
　　最后，研究了航天器编队的姿轨耦合协同控制方法。考虑航天器编队姿态运动和相对轨道运动之间内在的动力学耦合等因素，建立了6自由度的姿轨耦合控制模型。针对编队航天器质量和转动惯量未知的情形，在有界外部扰动假设下，设计了一种基于滑模控制方法的自适应姿轨耦合协同控制器。数值仿真结果验证了所提出的控制器的有效性。