航天器编队在上个世纪九十年代诞生以来,受到了广泛的关注,具有广阔的应用前景。将在立体成像、电子侦察、卫星遥感、导航定位、等方面发挥重要作用。同时对航天器编队飞行还有编队动力学、轨道保持、姿态协同等很多的问题需要研究,在本文重点对小卫星编队飞行进行了以下几方面的研究。本论文首先在分析课题的研究目的和意义的基础上,对国内外小卫星编队飞行任务的发展状况进行了综述。并调研了国内外在编队飞行小卫星姿态协同控制技术方面的发展现状。其次,从理论方面研究了航天器编队飞行相对运动的描述方法,并且分析了圆轨道与椭圆轨道上编队绕飞的相对运动特性。讨论分析了各种摄动因素对编队飞行轨道根数的影响。然后,对椭圆参考轨道的编队飞行系统,利用哈密尔顿-雅克比方程的方法推导了通过生成函数来描述的编队飞行系统相对运动的状态转移矩阵。并验证了该种方法在航天器相对描述方面的优越性。根据推导出的基于哈密尔顿-雅克比方程的状态方程设计了对地等张角绕飞编队模型预测控制算法。预测控制算法是一种在线滚动优化的闭环控制算法,将模型预测优化问题转化为求解二次规划问题,并通过仿真验证其有效性。最后,研究了航天器编队飞行中的姿态协同问题,采用主从式的姿态协同控制策略,研究了编队中从星的目标姿态算法。利用滑模控制设计了从星姿态跟踪的控制器,并仿真验证了控制器的有效性。