随着无人机使用领域不断拓宽,无人机研究已进入编队执行复杂任务的阶段,需要愈加精细复杂的编队航路规划与控制,以适应复杂的应用场景。在执行空中加油、长距离编队运输、高精度定位、多角度成像等任务时,必须考虑无人机编队在通信约束下的队形稳定性、编队内部避碰问题、以及执行任务的时序与死锁问题。本文以固定翼无人机编队为研究对象,考虑编队飞行环境中常见的复杂性约束条件,针对通信受限、无人机碰撞问题及任务规划问题,分别基于一致性算法、预设性能控制方法与遗传算法,展开了理论研究与仿真分析,本文的主要工作内容包括以下方面:（1）针对存在通信约束条件下的无人机编队一致性问题,本文提出了能够消除通信时滞和通信噪声的一致性编队算法,该算法通过在传统一致性算法中引入Hopf分岔控制理论与抑噪函数,求解出系统可容纳的时延上界并消除通信噪声,从而提高通信约束条件下无人机编队飞行的鲁棒性。首先将无人机模型转化为二阶积分系统,基于矩阵理论,分析了输入时延和通信时延等因素对算法收敛性和稳态精度的影响。然后利用Hopf分岔控制理论求解出能保证系统一致性收敛的输入时延上界,提出了同时存在通信时延和输入时延的无人机编队双积分一致性算法。最后通过在一致性编队算法中引入抑噪函数,消除了通信噪声对二阶无人机编队系统控制精度的影响。为了验证所提出的方法,本文设计并完成了仿真实验以证明所提方法的有效性。（2）针对编队飞行过程中可能产生的无人机碰撞问题,本文设计了基于预设性能控制理论的无人机避碰编队控制器,该控制器可以根据无人机之间的安全距离与初始状态下的无人机间距与预期位置实现高精度的位置编队的同时避免碰撞发生。首先基于领机与从机编队的相对运动模型建立级联形式的编队控制模型。其次提出通过编队中无人机的初始位置、机间安全距离与预期编队位置确定预设性能控制器中误差边界与临时队形位置的方法,并利用反演的思路设计了形成队形的同时能够避免无人机碰撞的编队控制器。最后通过仿真证明了所设计的编队控制器能够实现无人机编队避碰的控制目标。（3）针对对敌防空火力压制场景下的编队任务规划问题,本文开展了协同任务规划问题建模、算法设计和仿真分析。充分考虑异构无人机编队在任务执行能力、执行时序和自身运动学等方面的限制条件,构建了任务规划优化模型。将任务执行时间与整体攻击收益作为综合性能指标,设计了一种多类型基因染色体遗传算法,相较于已有算法,该算法可避免死锁问题的出现。最后对该算法进行仿真分析,并与已有算法进行对比,验证了本文所提出的算法可实现对编队任务规划问题更加的高效求解。