随着无人机技术的发展,无人机在军事和民用领域的应用愈加深入,且朝集群化方向发展,以满足危险环境中的监测、搜索和救援等复杂任务需求。避障算法作为一种面向无人机集群的核心算法,一直是工业界和学术界研发的焦点,许多学者在群体智能Flocking算法的基础上开展了优化和改进研究。然而,当前算法只考虑了同构无人机集群,忽视了集群的异构性以及算法的安全性。因此,针对避障算法应用于异构集群的场景,深入研究避障算法存在的参数敏感性问题和安全性问题,可以降低安全损失,提高无人机集群的任务应用范围,具有重要意义。本文主要从以下两个方面开展无人机集群智能避障的算法安全研究:第一,无人机集群避障算法参数敏感性分析。对目前被广泛使用的Flocking避障算法进行稳定性分析,针对其存在某些情况下稳定性较差的问题,提出了基于Flocking算法的优化集群避障算法Hybrid Flocking算法。Hybrid Flocking算法同时考虑群体避障（Group Collision Avoidance,GCA）策略和个体避障（Individual Collision Avoidance,ICA）策略,并设计了两种策略的切换算法。本文对避障算法的参数敏感性进行深入分析,通过强化学习演员-评论家（Actor-Critic,AC）算法实现避障算法的权重参数自动调节机制以提高无人机集群避障算法的稳定性。第二,提出基于Rushing攻击的到达状态数据投毒攻击模型,旨在利用无人机集群通信网络中主流的AODV协议的脆弱性,造成异构无人机集群飞行任务的时延,为算法安全加固奠定基础。现有的无人机集群避障算法对攻击防护的研究尚处于起步阶段,特别是对数据投毒攻击造成的无人机集群任务时延缺乏有效防护。针对以上问题,本文引入了零空间投影（Null Space Based,NSB）法来实现避障算法的安全加固,提出了无人机集群避障约束模型,增强了模型的鲁棒性。在仿真实验中,相比于Flocking算法,Hybrid Flocking算法使得集群中无人机之间安全距离波动性小且保持性更好,发生碰撞和任务失败的概率较低。通过强化学习AC算法,实现了避障算法的权重参数自动调参以提高异构无人机集群避障算法的稳定性。实验中任务用时减少可达9.68%,平均任务用时减少了大约8%。本文设计了针对异构无人机集群场景下集群避障算法的数据投毒攻击,实验分析了不同集群大小、不同无人机速度、以及不同到达判断阈值情况下攻击导致的任务平均时延。攻击导致的集群任务时延最高可达47.84%。本文引入NSB法来对异构集群避障算法进行加固,使用加固算法后,攻击导致的时延最多下降了41.39%,一定程度上验证了加固算法的有效性,对无人机集群避障算法的安全性防护提供了一定的依据。