MIMO技术在不增加带宽和天线发送功率的情况下，能够有效地提高信道容量和频谱利用率，但无线终端的物理条件制约了该技术的实际应用。协同通信通过用户间共享彼此的天线，以构建一个虚拟的MIMO系统，这样可以使得SISO系统也能获得MIMO系统的好处。协同通信的研究主要集中在协作分集(C-DIV)和协同空域复用(C-SM)方面，本文主要研究了能够提高未来宽带无线通信系统容量和频谱效率的C-SM技术。　　 在C-SM系统中，中继节点仅需要处理接收信号中的一部分子数据流，相对于C-DIV系统，它降低了中继节点发送和接收处理的复杂度，节省了系统能量，同时也保证了较高的频带利用率。　　 本文首先对集中式MIMO中的空域复用技术及接收检测算法进行讨论，然后在此基础上把MIMO的概念应用到协同通信中，在单跳情况下给出两种C-SM方案，详细分析了它们的原理及接收检测算法。仿真分析表明，在使用最优功率分配方案和适当选择中继节点情况下，AF-CSM系统的BER性能接近V-BLAST系统。当频谱利用率较高时，C-SM系统的性能要好于C-DIV系统。另外，LLR-OSIC接收检测算法要优于SNR-OSIC算法好，但随着中继节点与源端距离的增加，两算法的差异逐渐减小。采用自适应编码转发模式的C-SM系统要好于非自适应的情况，并且不同的门限值设置也会影响系统的性能。考虑到现实中的应用及系统性能的进一步改善，本文最后讨论了基于多跳的C-SM系统。具体分析了多跳系统中的处理方法，通过对三跳C-SM系统仿真可以看出多跳系统明显优于单跳情况。