无线通信的广播特性方便了信息传播的同时也给通信安全带来了巨大的挑战,广播范围内的恶意节点可以轻易地窃听秘密信息。传统的基于密码学的高层加解密安全方法在无线通信中有许多不便,所以人们将目光投向了物理层安全。物理层安全利用无线通信信道的物理特性,通过信号处理、编码调制等技术来保障合法通信节点的通信安全。物理层安全研究中经常用到协作节点来帮助合法通信节点或者干扰窃听者。在以往的研究中,都认为协作节点会无偿地帮助合法通信节点,实际情况中,协作节点可能并不是合法通信系统的一部分,它们由于自私性会要求在帮助行动中获利。近年来,研究者们多通过博弈论来处理这种多个利益主体的问题,博弈论为物理层安全的研究提供了新的思路。本文利用博弈论研究协作通信网络中的物理层安全问题:首先讨论了由发送端、合法接收端、窃听者和友好干扰节点组成的干扰窃听信道模型。在这个模型中,友好干扰节点作为卖家,合法通信对作为买家构成了一个斯塔克伯格博弈。接着构建了双方的效益函数,并求出了博弈的均衡点。通过在上述模型中额外加入一个友好干扰节点,卖家数量从一个变成了两个,双干扰节点与合法信道构成了伯特兰德博弈模型。通过对博弈模型的分析,推导了合法信道的最优购买功率以及均衡时两个友好干扰节点的功率单价。接下来,构建了一个全新的单干扰节点和多天线发送端的博弈模型。当系统中只有一个干扰节点时,节点在和合法信道的博弈中占据优势;当系统中有多个干扰节点时,合法信道占据优势。本文提出当系统中只有一个干扰节点但是发送端装配有多天线的情况下,发送端同时发送有用信号和噪声,形成一个模拟的干扰节点。模拟干扰节点改变了博弈结构,增强了合法信道的地位。实验表明,新的博弈模型能够有效地提高合法信道的收益。最后,将研究扩展到不可信协作节点的窃听信道。由于不可信节点可能会选择帮助窃听者的特性,系统安全性不能得到保障。针对这种情况,本文提出了一个解决方案:额外加入一个友好干扰节点。友好干扰节点增加了合法信道的选择,使其不再受制于不可信节点的行为。仿真显示,无论不可信节点如何选择帮助对象,友好干扰节点都能增加合法信道的安全性能。