随着无线通信技术的高速发展,用户在通信过程中对系统安全性能提出了更高的要求。无线网络给用户带来便利性的同时也存在安全隐患,其开放的通信环境使得无线传输很容易受到被动窃听、主动干扰等恶意攻击,这激发了广大研究工作者寻求利用物理层信道特征来提高系统安全性能。本文主要研究了在多用户无线通信网络中的物理层安全问题,通过引入人工噪声、智能反射面等关键技术,并结合多用户调度、功率分配优化等方法,提高多用户无线通信系统的安全性能。主要研究工作及创新点如下:首先,考虑了存在窃听节点的多用户无线通信网络,其中一个用户发送信号,其余用户联合发送人工噪声以对抗窃听节点。在此场景下,采用了基于传输信道容量与窃听信道容量之差的安全容量作为优化目标,提出了一种用户调度与功率分配优化方案,并将用户调度与平均功率分配方案作为对比基准,推导了两种方案的窃听概率上界闭合表达式,进行了仿真对比研究。数值结果表明,相比于用户调度与平均功率分配方案,用户调度与功率分配优化方案的安全容量更大,窃听概率更小,同时增加用户数量可以提高系统安全容量,降低窃听概率。其次,考虑了智能反射面辅助的多用户无线通信网络,其中用户与基站之间的直通路径由于环境影响被破坏,通过利用智能反射面来提高传输信号质量。在此场景下,分析了智能反射面辅助多用户无线通信网络,并将中继辅助多用户无线通信网络和直通多用户无线通信网络作为对比,推导了智能反射面辅助网络的中断概率渐进解、智能反射面辅助网络和中继辅助网络对直通网络的信噪比增益概率、三种网络的覆盖率和延迟中断率,进行了仿真对比研究。数值结果表明,相比于后两种网络,智能反射面辅助网络的覆盖距离更广,延迟中断率更低,同时增加反射单元数目可以降低系统中断概率,增大系统覆盖距离。最后,考虑了存在窃听节点的智能反射面辅助多用户无线通信网络,其中用户与基站之间通过智能反射面建立通信链路,并引入人工噪声对抗窃听节点。在此场景下,提出了最佳友好干扰用户调度方案,其中选择最佳的用户和友好干扰分别发送信号和人工噪声,并将无友好干扰用户调度方案、随机友好干扰用户调度方案作为对比,推导了三种方案的系统安全容量,进行了仿真对比研究。数值结果表明,相比于后两种方案,最佳友好干扰用户调度方案的系统安全容量更大,同时增加反射单元数目和用户数目可以进一步增大系统安全容量。