无人机作为一种飞行设备，具有成本低、尺寸小、速度快、机动性强等特点。因此它能代替有人机执行重复性、高危险性任务。而无人机群相对于单个无人机具有更高的执行任务的效率，因此无人机编队飞行将是未来无人机发展的一个重要的趋势。然而无人编队的飞行，常伴随着很强的气动耦合、非线性等问题，制约着无人机飞行编队领域的发展。自抗扰控制器的算法较为简单，同时具有较强的抗扰性，能够不受制于系统模型的类型，并将系统扰动进行估计和补偿，具有较好的适应性，而滑模变结构控制在系统到达滑动模态后，不再受内外不确定动态的影响。本文从控制算法的角度对提高无人机编队飞行的跟踪性、鲁棒性的方法进行了研究。　　首先阐述了课题的研究背景及意义以及无人机飞行编队控制的研究现状，并给出了研究的问题与挑战和无人机飞行编队控制技术的展望。　　然后对无人机编队的数学模型和滑模控制、自抗扰控制技术的基本原理和主要组成部分进行了介绍，针对目前应用比较广泛的非线性系统，在模型部分未知情况下，对扩张状态观测器能否根据输入输出数据，时实精确的估计出动态系统的内扰和外扰以及自抗扰控制器对于nth阶系统能否确保系统的稳定性进行了详细的分析。为后续将自抗扰控制和滑模控制复合的应用做了很好的铺垫。　　随后重点探讨了无人机飞行编队模型下的滑模控制器和基于改进扩张状态观测器的带有滑模控制律的复合控制器的设计过程。通过将 X、Y通道间的相互影响当作是系统的内部扰动，同外部环境引起的扰动一起当作该通道的总和扰动，然后再对各个通道独立的运用ESO对总和扰动进行实时的估计和补偿，来达到实现解耦控制。将滑模控制和自抗扰控制相复合，设计了变结构的自抗扰控制器，并将扩张状态观测器的可调参数降到了2个，降低了基于参数整定的难度。　　最后以飞行编队模型为仿真对象，通过Simulink仿真实验，验证了设计思想的可行性，有效性，同时通过对比两种控制方式的仿真结果，在一定程度上验证了复合控制的可行性。