无线信道的衰落特性是阻碍信道容量增加和服务质量改善的主要原因之一，而MIMO技术是应对衰落的有效方法。但是MIMO技术要求每个通信设备必须具有多根天线，往往不易实现，协作通信正是在这种背景下应运而生的。协作通信的概念是建立在中继信道模型的基础上，受MIMO技术的启发而提出的。协作通信把无线信道，无线网络，物理层传输技术等综合在一起进行设计和优化，不仅能够提高无线通信系统的容量，减少通信的中断概率，而且可以扩大无线网络的连通性，节省数据传输的能量。协作通信是一种技术，更是一种通信的方式、一种思想，它可以和其它的通信技术充分融合，在无线通信领域中得到广泛的应用，成为下一代无线通信技术的重要研究领域。本文着眼于协作通信中相关策略和协议设计，针对协作通信的四个关键问题进行了研究。首先，本文研究了如何根据中继节点的空间分布选择合适的协作协议。然后，分析了干扰问题与协作通信的关系以及协作通信应该采用何种方式来有效应对干扰。针对蜂窝网络中的异构协作这一新兴的研究领域，详细分析了两种协作模式和能够达到的性能指标。最后研究了一种适用于协作通信的MAC层协议，并通过仿真结果验证了其可行性。本文主要取得如下研究成果：1借用了几何分析的方法，结合信息论的相关原理，证明了协作通信协议可以获取的最大互信息量和中继节点的空间分布有着密切的关系。给出了一种基于中继节点空间分布的协作协议选择策略，并通过仿真验证了可行性。介绍了一种机会分布式空时编码协议，能够实现性能和复杂度的折中。2研究了协作通信带来的干扰问题对系统性能的影响，说明了通过选择不同的中继节点可以尽量避免干扰。提出了一种干扰避免的中继节点选择算法，中继节点可以充分利用干扰带来的机会进行协商，来共同寻找更适合的中继节点。仿真结果证明：基于干扰避免的中继节点选择算法相对于未考虑干扰问题的中继节点选择算法，可以获得约7％的平均信道容量的提升。3介绍了两种适用于异构协作的协作模式，分别称为VAA DSTC和VAA BLAST。详细描述了这两种协作模式的工作过程，而且采用分集复用折中作为分析工具，比较了两种协作模式各自的性能。提出并证明了：移动设备的异构通信接口数据率的差异，可以带来额外的复用增益。4介绍了一个支持协作通信的通用框架，并围绕着该框架，研究了支持协作通信的MAC协议(简称为协作MAC协议)。该协作MAC协议能够与802．11协议兼容，不仅可以支持多种协作通信协议，而且可以支持不同数量的中继节点。该协作MAC协议还考虑了如何通过中继节点的选择尽量避免干扰的问题。论文重点研究了协作通信中亟需解决的几个关键问题，为协作通信从理论走向应用进行了探索性的研究。论文的研究有助于加快协作通信在无线领域的实用化步伐，具有一定的理论前瞻性和实用性的价值。