多用户协作通信系统中节点之间通过共享彼此天线,形成虚拟天线阵列,从而获得空间复用增益。空间调制是一种利用天线位置来携带信息的调制方式。它复杂度低、能量利用率高,可以有效缓解大规模多入多出系统的天线间干扰和同步问题。不同于其他传统信号调制方式,空间调制激活少量天线发送信号,发送信号向量呈稀疏特性,即存在大量零元素。因此本文对多用户协作通信系统中的空间调制技术进行了研究。本文首先对多用户协作通信以及空间调制做了详细介绍,然后引入压缩感知理论并构建了一种基于压缩感知的空间调制系统模型。在此系统中,只有源节点为多天线配置发射信号,其余节点均为单天线配置,通过协作共享彼此天线。本文基于GNU Radio软件无线电平台的USRP无线电外设进行了系统性能分析和验证实验。利用实验数据分析了信号稀疏度、协作节点个数以及发射天线间功率不平衡性对系统误比特率的影响。由于无线通信信道的广播特性,无线通信的信息传输过程容易受到窃听威胁,本文从物理层安全角度,分析了存在多个窃听节点的多源多中继协作通信系统的物理层安全性能。基于信息论,研究了协作通信系统中安全容量的上下界。根据MATLAB仿真结果,分析了窃听节点数与协作节点个数对安全容量的影响。