高速铁路给人们出行带来了极大的便利,但同时列车的快速移动也给无线通信系统提出了越来越高的要求。用户对移动通信的高速率传输需求、频率资源短缺等成为高速铁路通信中的重要问题。而协作通信技术具有对抗信号衰落,扩大信号覆盖范围,提高信道容量等优点,能够有效解决上述问题。同时,随着协作通信的大范围应用,高吞吐、高可靠已经成为移动通信系统的基本目标,其信息安全将占据越来越重要的地位。因此,在窃听环境下协作通信系统安全性能的研究具有重要意义。本文主要研究中继协作通信在窃听环境下的保密性能。首先,针对全双工中继协作系统,在非理想信道状态信息下,提出两种中继选择方案:最优中继选择和部分中继选择。通过推导中继节点的信干噪比和目的节点的信噪比,推导出系统的保密中断概率表达式。根据推导的表达式分析影响系统安全性能的参数,包括信道状态信息估计误差、中继个数、窃听者信噪比以及由全双工系统模型引起的残余自干扰等。仿真结果表明:在非理想信道状态信息下,最优中继选择方案优于部分中继选择方案。同时,在低的残余自干扰平均信噪比下,全双工系统优于传统半双工系统;反之,在高的残余自干扰平均信噪比下,传统半双工系统优于全双工系统。其次,考虑到绿色通信的要求,研究无线携能中继协作系统的保密性能。通过推导两种中继能量采集协议的保密中断概率、监听概率和安全吞吐量表达式,分析影响系统安全性能的参数,包括中继个数、发射信噪比、时间切换因子和功率分配因子。仿真结果表明:随着功率分配因子的增加,系统的保密中断概率会先变小后变大,系统的监听概率会变大;随着时间切换因子的增加,系统的保密中断概率会逐渐变小。最后,考虑窃听者存在的情况下,研究基于大规模MIMO中继协作系统的保密性能。通过选择加性量化噪声模型对量化过程进行处理,在目的基站采用最大比合并技术,推导出系统保密频谱效率表达式。构建中继系统的总功率消耗模型,得出保密能量效率和保密频谱效率之间的权衡关系。仿真结果表明:随着窃听者天线数增多,窃听能力会增强,系统的保密频谱效率会减小。同时,略微减小保密频谱效率,系统可以得到相对较高的保密能量效率,使系统两个性能折中。