由于无线信道具有多径衰落特性,无线通信系统带宽容量的提升在技术上受到了极大的挑战和限制。分集技术的特点是可以在不需要占用额外的无线通信带宽和资源的情况下,有效地对抗系统的多径衰落,提升系统容量。其中,多天线技术是分集技术的典型代表,但是在现实生活中,由于移动设备在功耗和体积上受到一定的限制,只能安装有限的天线。因此,中继协同通信技术应运而生,通过分布式中继的天线共享,形成虚拟的多天线阵列,可有效改进物理层传输特性。本文主要研究在多中继且反馈信道状态信息(Channel State Information,CSI)受限的场景下,如何获得更大系统传输容量。本文主要研究工作以及创新点如下:首先,研究了在反馈受限下协同多中继通信网络中有效容量的优化问题,提出了一种基于信道量化误差(Channel Quantization Error,CQE)的多中继预编码(Multi-relay Precoding,MRP)方案。在接收端对CSI进行量化时使用更多的信道量化比特增强了在中继端得到的量化CSI的精确性,并且增大了从中继到目的节点的传输容量。但是,这也导致了信道反馈开销的增加。本文定义有效容量为传输速率与反馈速率的差值,用来特征化抵消反馈开销后的信道容量。仿真结果表明,本文提出的面向信道量化误差的多中继预编码方案(Channel Quantization Error Multi-relay Precoding,CQE-MRP)的有效吞吐量可以通过调整量化比特的数目来得到系统吞吐量的最大值。其次,本文分析了反馈受限条件下协同多中继通信网络的性能。为了研究在反馈受限条件下的系统的性能,本文提出了一种基于CQE的协同多中继网络波束成形(Channel Quantization Error Multi-relay Beamforming,CQE-MRB)方案。根据系统模型设计了多中继协同的波束成形向量,使系统传输容量取得了最大值。并计算了在CQE-MRB方案下系统的中断概率,对系统的可靠性进行了分析。仿真结果表明,通过本文提出的CQE-MRB方案随着中继数量的增加改善了系统的中断性能。另外,信道量化比特的数目可以进一步最小化提出的CQE-MRB方案的中断概率。最后,本文研究了反馈受限下基于门限值的协同多中继系统的信道反馈量与传输可靠性的折中。为了降低反馈的开销,本文提出了一种多中继选择方案,即选择多个CSI超过门限值的中继进行发射波束形成和CSI量化反馈。通过减少中继的数量,降低了CSI的反馈开销。在反馈开销减小的同时,中继的可靠性必然也会减小。本文分析了不同门限值条件下反馈量与系统传输可靠性之间的折中关系,推导了中断概率公式与反馈开销的公式,并进行了仿真分析。仿真结果表明,在不同门限值条件下,系统的可靠性与反馈开销之间存在折中。