当前,由于多媒体、宽带Internet等高速率移动数据传输业务的快速增加,对高数据率无线接入的需求也以同样的速度在增长。在移动通信环境下,高速通信主要面临两方面的挑战。其一,移动通信系统可用的频谱资源是有限的,如何充分提高频谱资源的使用效率是个亟待解决的问题。其二,在高速移动环境中,信道遭遇的衰落和干扰更为严峻。怎样克服衰落的影响,提高接收信号的传输质量,同样是一个难题。近年来,在无线通信研究中的一个最新成就是多输入多输出方法(MIMO),其可以在不占用额外频率和时间资源的情况下有效的提高通信系统的频谱利用率和容量,大幅改善网络性能和服务质量。但是移动终端由于受尺寸等方面的限制,不可能在一个终端上安装多个天线。因此人们提出了协作分集这样一种全新的实现空间分集的方法。在协作分集系统中,协作终端以重复编码出现,未能有效利用频谱。如何在获得协作分集增益的同时提高系统的频谱效率,成为协作分集系统设计的研究重点。本文首先对协作分集各种实现策略进行了深入细致的研究；然后阐述了协作分集带来的降低系统频谱利用率问题,并给出了两用户的放大转发(AF)协作系统香农容量。论文主体部分基于跨层设计的思想,以优化协作分集系统频谱效率为目标,将物理层AMC技术和链路层混合自动重传(HARQ)协议应用于协作分集系统进行联合优化设计,提出一种改进的C-HARQ协议。理论分析和仿真结果表明,本文所提方案不但能改善协议的实用性、相对降低系统的复杂度,在中低信噪比条件下还能很好地改进系统的性能。这是因为它利用了协作分集系统中协作信道状态信息,占用了更多系统资源。另一方面,频谱效率的改善还取决于协作用户能正确的接收信源节点的信息分组,所以我们应该尽量选取信道条件较好的节点来进行协作。